Hinweis zum Ende des Supports: Am 7. Oktober 2026 AWS wird der Support für eingestellt. AWS IoT Greengrass Version 1 Nach dem 7. Oktober 2026 können Sie nicht mehr auf die Ressourcen zugreifen. AWS IoT Greengrass V1 Weitere Informationen finden Sie unter [Migrieren von AWS IoT Greengrass Version 1](https://docs.aws.amazon.com/greengrass/v2/developerguide/migrate-from-v1.html). Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich. # Durchführen von Machine Learning-Inferenzen Diese Funktion ist für AWS IoT Greengrass Core v1.6 oder höher verfügbar. Mit AWS IoT Greengrass können Sie maschinelles Lernen (ML) direkt am Netzwerkrand anhand lokal generierter Daten mithilfe von in der Cloud trainierten Modellen ableiten. Sie können von der niedrigen Latenz und Kosteneinsparungen der Ausführung von lokaler Inferenz profitieren und trotzdem die Cloud-Rechenleistung für Schulungsmodelle und komplexe Verarbeitung nutzen. Hinweise zur Durchführung von lokaler Inferenz finden Sie unter [So konfigurieren Sie die Inferenz für maschinelles Lernen mit dem AWS-Managementkonsole](ml-console.md). ## Wie AWS IoT Greengrass ML-Inferenz funktioniert Sie können Ihre Inferenzmodelle überall trainieren, sie lokal als *Ressourcen für maschinelles Lernen* in einer Greengrass-Gruppe bereitstellen und dann über Greengrass Lambda-Funktionen auf sie zugreifen. Sie können beispielsweise Deep-Learning-Modelle in [SageMaker KI](https://console.aws.amazon.com/sagemaker) erstellen und trainieren und sie auf Ihrem Greengrass-Kern einsetzen. Anschließend können Ihre Lambda-Funktionen die lokalen Modelle verwenden, um Inferenzen auf verbundenen Geräten durchzuführen und neue Trainingsdaten zurück in die Cloud zu senden. Das folgende Diagramm zeigt den AWS IoT Greengrass ML-Inferenz-Workflow. ![Komponenten des Workflows für maschinelles Lernen und des Informationsflusses zwischen den zentralen Geräten, dem AWS IoT Greengrass Dienst und den in der Cloud trainierten Modellen.](http://docs.aws.amazon.com/de_de/greengrass/v1/developerguide/images/ml-inference/diagram-ml-overview.png) AWS IoT Greengrass ML-Inferenz vereinfacht jeden Schritt des ML-Workflows, einschließlich: + Die Entwicklung und Bereitstellung von ML-Framework-Prototypen. + Der Zugriff auf Cloud-geschulte Modelle und die deren Bereitstellung in Greengrass Core-Geräten. + Erstellen von Inferenz-Apps, die auf Hardware-Beschleuniger (z. B. GPUs und FPGAs) als [lokale Ressourcen](access-local-resources.md) zugreifen können. ## Machine Learning-Ressourcen Ressourcen für maschinelles Lernen stellen in der Cloud trainierte Inferenzmodelle dar, die für einen Kern bereitgestellt werden. AWS IoT Greengrass Um Ressourcen für maschinelles Lernen bereitzustellen, fügen Sie die Ressourcen zunächst einer Greengrass-Gruppe hinzu und definieren dann, wie Lambda-Funktionen in der Gruppe auf sie zugreifen können. AWS IoT Greengrass Ruft während der Gruppenbereitstellung die Quellmodellpakete aus der Cloud ab und extrahiert sie in Verzeichnisse innerhalb des Lambda-Laufzeit-Namespace. Anschließend verwenden die Lambda-Funktionen von Greengrass die lokal bereitgestellten Modelle, um Inferenzen durchzuführen. Um ein lokal bereitgestelltes Modell zu aktualisieren, aktualisieren Sie zuerst das Quellmodell (in der Cloud), das mit der Machine Learning-Ressource übereinstimmt, und stellen Sie dann die Gruppe bereit. Während der Bereitstellung überprüft AWS IoT Greengrass die Quelle auf Änderungen. Wenn Änderungen erkannt werden, wird das lokale AWS IoT Greengrass Modell aktualisiert. ### Unterstützte Modellquellen AWS IoT Greengrass unterstützt SageMaker KI- und Amazon S3 S3-Modellquellen für Ressourcen für maschinelles Lernen. Die folgenden Anforderungen gelten für Modellquellen: + S3-Buckets, in denen Ihre SageMaker KI- und Amazon S3 S3-Modellquellen gespeichert sind, dürfen nicht mit SSE-C verschlüsselt werden. Für Buckets, die serverseitige Verschlüsselung verwenden, unterstützt AWS IoT Greengrass ML-Inferenz derzeit nur die Verschlüsselungsoptionen SSE-S3 oder SSE-KMS . Weitere Informationen zu serverseitigen Verschlüsselungsoptionen finden Sie unter [Schützen von Daten mithilfe serverseitiger Verschlüsselung](https://docs.aws.amazon.com/AmazonS3/latest/dev/serv-side-encryption.html) im *Amazon Simple Storage Service-Benutzerhandbuch*. + Die Namen der S3-Buckets, in denen Ihre SageMaker KI- und Amazon S3 S3-Modellquellen gespeichert sind, dürfen keine Punkte (`.`) enthalten. Weitere Informationen finden Sie in der Regel zur Verwendung von Buckets im virtuellen Hosted-Stil mit SSL unter [Regeln für die Bucket-Benennung](https://docs.aws.amazon.com/AmazonS3/latest/dev/BucketRestrictions.html#bucketnamingrules) im *Amazon Simple Storage Service-Benutzerhandbuch*. + Service-level AWS-Region [Support muss sowohl für KI als auch [AWS IoT Greengrass](https://docs.aws.amazon.com/general/latest/gr/greengrass.html)für KI verfügbar sein. SageMaker ](https://docs.aws.amazon.com/general/latest/gr/sagemaker.html) AWS IoT Greengrass Unterstützt derzeit SageMaker KI-Modelle in den folgenden Regionen: + US East (Ohio) + USA Ost (Nord-Virginia) + USA West (Oregon) + Asia Pacific (Mumbai) + Asia Pacific (Seoul) + Asien-Pazifik (Singapur) + Asien-Pazifik (Sydney) + Asien-Pazifik (Tokio) + Europe (Frankfurt) + Europa (Irland) + Europa (London) + AWS IoT Greengrass muss über `read` Berechtigungen für die Modellquelle verfügen, wie in den folgenden Abschnitten beschrieben. **SageMaker AI** AWS IoT Greengrass unterstützt Modelle, die als SageMaker KI-Trainingsjobs gespeichert wurden. SageMaker KI ist ein vollständig verwalteter ML-Service, mit dem Sie Modelle mithilfe integrierter oder benutzerdefinierter Algorithmen erstellen und trainieren können. Weitere Informationen finden Sie unter [Was ist SageMaker KI?](https://docs.aws.amazon.com/sagemaker/latest/dg/whatis.html) im *SageMaker AI Developer Guide*. Wenn Sie Ihre SageMaker KI-Umgebung konfiguriert haben, indem Sie [einen Bucket erstellt](https://docs.aws.amazon.com/sagemaker/latest/dg/gs-config-permissions.html) haben, dessen Name enthält`sagemaker`, dann AWS IoT Greengrass über ausreichende Berechtigungen für den Zugriff auf Ihre SageMaker KI-Schulungsjobs verfügt. Die verwaltete Richtlinie `AWSGreengrassResourceAccessRolePolicy` erlaubt den Zugriff auf Buckets, deren Name die Zeichenfolge `sagemaker` enthält. Diese Richtlinie ist der [Greengrass-Servicerolle](service-role.md) angefügt. Andernfalls müssen Sie dem Bucket, in dem Ihr Trainingsjob gespeichert ist, die AWS IoT Greengrass `read` Erlaubnis erteilen. Betten Sie zu diesem Zweck die folgende eingebundene Richtlinie in die Greengrass-Servicerolle ein. Sie können mehrere Bucket-ARNs in einer Liste anzeigen. **** ``` { "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::{{amzn-s3-demo-bucket}}" ] } ] } ``` **Amazon S3** AWS IoT Greengrass unterstützt Modelle, die in Amazon S3 als `tar.gz` `.zip` OR-Dateien gespeichert sind. Um auf Modelle zugreifen AWS IoT Greengrass zu können, die in Amazon S3 S3-Buckets gespeichert sind, müssen Sie die AWS IoT Greengrass `read` Erlaubnis zum Zugriff auf die Buckets erteilen, indem Sie **einen der folgenden** Schritte ausführen: + Speichern Sie Ihr Modell in einem Bucket, dessen Name `greengrass` enthält. Die verwaltete Richtlinie `AWSGreengrassResourceAccessRolePolicy` erlaubt den Zugriff auf Buckets, deren Name die Zeichenfolge `greengrass` enthält. Diese Richtlinie ist der [Greengrass-Servicerolle](service-role.md) angefügt.   + Betten Sie eine eingebundene Richtlinie in die Greengrass-Service-Rolle ein. Wenn Ihr Bucket-Name nicht `greengrass` enthält, fügen Sie die folgende eingebundene Richtlinien der Service-Rolle hinzu. Sie können mehrere Bucket-ARNs in einer Liste anzeigen. ------ #### [ JSON ] **** ``` { "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::{{amzn-s3-demo-bucket}}" ] } ] } ``` ------ Weitere Informationen finden Sie unter [Einbetten von Inline-Richtlinien](https://docs.aws.amazon.com/IAM/latest/UserGuide/access_policies_manage-attach-detach.html#embed-inline-policy-console) im *IAM-Benutzerhandbuch*. ## Voraussetzungen Die folgenden Anforderungen gelten für die Erstellung und Verwendung von Machine Learning-Ressourcen: + Sie müssen AWS IoT Greengrass Core v1.6 oder höher verwenden. + User-defined Lambda-Funktionen können `read and write` OR-Operationen auf der `read` Ressource ausführen. Berechtigungen für andere Operationen sind nicht verfügbar. Der Containerisierungsmodus verbundener Lambda-Funktionen bestimmt, wie Sie Zugriffsberechtigungen festlegen. Weitere Informationen finden Sie unter [Greifen Sie über Lambda-Funktionen auf Ressourcen für maschinelles Lernen zu](access-ml-resources.md). + Sie müssen den vollständigen Pfad der Ressource im Betriebssystem des Core-Geräts bereitstellen. + Der Name oder die ID einer Ressource kann maximal 128 Zeichen umfassen und muss dem Muster `[a-zA-Z0-9:_-]+` entsprechen. ## Laufzeiten und Bibliotheken für ML-Inferenz Sie können die folgenden ML-Laufzeiten und -Bibliotheken mit verwenden. AWS IoT Greengrass + [Deep-Learning-Laufzeit von Amazon SageMaker Neo](#dlc-optimize-info) + Apache MXNet + TensorFlow Diese Laufzeiten und Bibliotheken können auf den Plattformen NVIDIA Jetson TX2, Intel Atom und Raspberry Pi installiert werden. Informationen zum Download finden Sie unter [Unterstützte Machine Learning-Laufzeiten und -Bibliotheken](what-is-gg.md#ml-runtimes-libs). Sie können sie direkt auf Ihrem Core-Gerät installieren. Lesen Sie die folgenden Informationen zu Kompatibilität und Einschränkungen. ### SageMaker Deep-Learning-Laufzeit von AI Neo Sie können die SageMaker AI Neo Deep Learning-Laufzeit verwenden, um Inferenzen mit optimierten Modellen für maschinelles Lernen auf Ihren AWS IoT Greengrass Geräten durchzuführen. Diese Modelle werden mithilfe des SageMaker AI Neo Deep-Learning-Compilers optimiert, um die Geschwindigkeit der Vorhersage von Inferenzen beim maschinellen Lernen zu verbessern. Weitere Informationen zur Modelloptimierung in SageMaker KI finden Sie in der [SageMaker AI Neo-Dokumentation](https://docs.aws.amazon.com/sagemaker/latest/dg/neo.html). **Anmerkung** Derzeit können Sie Modelle für maschinelles Lernen mit dem Neo Deep Learning-Compiler nur in bestimmten Amazon Web Services Services-Regionen optimieren. Sie können jedoch die Neo-Deep-Learning-Laufzeit mit optimierten Modellen in allen Modellen verwenden, in AWS-Region denen der AWS IoT Greengrass Kern unterstützt wird. Weitere Informationen finden Sie unter [So konfigurieren Sie Optimized Machine Learning-Inferenz](ml-dlc-console.md). ### MXNet-Versioning Apache MXNet stellt derzeit keine Aufwärtskompatibilität sicher, sodass Modelle, die Sie mit späteren Versionen des Frameworks schulen, möglicherweise in früheren Versionen des Frameworks nicht ordnungsgemäß funktionieren. Verwenden Sie zur Vermeidung von Konflikten zwischen den Modellschulungs- und Modellbereitstellungsstufen und für die Bereitstellung einer konsistenten End-to-End-Erfahrung in beiden Stufen dieselbe MXNet Framework Version. ### MXNet auf Raspberry Pi Greengrass Lambda-Funktionen, die auf lokale MXNet-Modelle zugreifen, müssen die folgende Umgebungsvariable setzen: ``` MXNET_ENGINE_TYPE=NativeEngine ``` Sie können die Umgebungsvariable im Funktionscode festlegen oder zur gruppenspezifischen Konfiguration der Funktion hinzufügen. Ein Bespiel, bei dem dieses im Rahmen der Konfigurationseinstellung hinzugefügt wird, finden Sie in diesem [Schritt](ml-console.md#ml-console-config-lambda). **Anmerkung** Bei einer allgemeinen Verwendung des MXNet-Frameworks, beispielsweise bei der Ausführung eines Code-Beispiels eines Drittanbieters, muss die Umgebungsvariable auf dem Raspberry Pi konfiguriert werden. ### TensorFlow Einschränkungen bei der Bereitstellung von Modellen auf dem Raspberry Pi Die folgenden Empfehlungen zur Verbesserung der Inferenzergebnisse basieren auf unseren Tests mit den TensorFlow 32-Bit-ARM-Bibliotheken auf der Raspberry Pi-Plattform. Diese Empfehlungen sind für erfahrene Benutzer nur zur Referenz ohne Gewährleistung jedweder Art bestimmt. + Modelle, die mit dem [Checkpoint](https://www.tensorflow.org/guide/checkpoint)-Format geschult werden, sollten vor der Bereitstellung im Protokollpufferformat "eingefroren" werden. Ein Beispiel finden Sie in der [Modellbibliothek zur TensorFlow-Slim Bildklassifizierung](https://github.com/tensorflow/models/tree/master/research/slim). + Verwenden Sie die TF-Slim Bibliotheken TF-Estimator und weder im Trainings- noch im Inferenzcode. Stattdessen verwenden Sie das Modellbereitstellungsmuster der `.pb`-Datei wie im folgenden Beispiel gezeigt. ``` graph = tf.Graph() graph_def = tf.GraphDef() graph_def.ParseFromString(pb_file.read()) with graph.as_default(): tf.import_graph_def(graph_def) ``` **Anmerkung** Weitere Informationen zu den unterstützten Plattformen für TensorFlow finden Sie TensorFlow in der TensorFlow Dokumentation unter [Installation](https://www.tensorflow.org/install/#installing_from_sources).