Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Inferenzoptionen in Amazon AI SageMaker
SageMaker KI bietet mehrere Inferenzoptionen, sodass Sie die Option auswählen können, die am besten zu Ihrer Arbeitslast passt:
-
Real-Time Inferenz: Real-timeInferenz ist ideal für Online-Inferenzen, die eine geringe Latenz oder einen hohen Durchsatz erfordern. Verwenden Sie Echtzeit-Inferenz für einen persistenten und vollständig verwalteten Endpunkt (REST-API), der anhaltenden Datenverkehr verarbeiten kann, unterstützt durch den Instanztyp Ihrer Wahl. Real-time Inference unterstützt Nutzdatengrößen von bis zu 25 MB und Verarbeitungszeiten von 60 Sekunden für reguläre Antworten und 8 Minuten für Streaming-Antworten.
-
Serverlose Inferenz: Serverlose Inferenz ist ideal, wenn Sie intermittierende oder unvorhersehbare Datenverkehrsmuster haben. SageMaker KI verwaltet die gesamte zugrunde liegende Infrastruktur, sodass es nicht erforderlich ist, Instanzen oder Skalierungsrichtlinien zu verwalten. Sie bezahlen nur für das, was Sie tatsächlich nutzen und nicht für Leerlaufzeit. Unterstützt werden Nutzlasten bis 4 MB und Verarbeitungszeiten von bis zu 60 Sekunden.
-
Batch-Transformation: Die Batch-Transformation eignet sich für die Offline-Verarbeitung, wenn große Datenmengen im Voraus verfügbar sind und Sie keinen persistenten Endpunkt brauchen. Sie können die Batch-Transformation auch zum Vorverarbeiten von Datensätzen verwenden. Sie kann große Datensätze mit mehreren GB und Verarbeitungszeiten von mehreren Tagen unterstützen.
-
Asynchrone Inference: Die Asynchrone Inference eignet sich ideal, wenn Sie Anfragen in eine Warteschlange stellen möchten und große Nutzlasten mit langen Verarbeitungszeiten haben. Die asynchrone Inference unterstützt Nutzlasten bis 1 GB und lange Verarbeitungszeiten von bis zu einer Stunde. Sie können Ihren Endpunkt auch auf 0 herunterskalieren, wenn keine Anfragen verarbeitet werden müssen.
