Blogs und Fallstudien Beispiel-Notebooks Weitere Ressourcen

Blogs, Beispiel-Notebooks und zusätzliche Ressourcen

Die folgenden Abschnitte enthalten Beispiele und zusätzliche Ressourcen, mit denen Sie mehr über Amazon SageMaker AI erfahren können.

Blogs und Fallstudien

In der folgenden Tabelle finden Sie Listen von Blogs und Fallstudien zu verschiedenen Funktionen von SageMaker AI Inference. Sie können die Blogs verwenden, um Lösungen zusammenzustellen, die für Ihren Anwendungsfall am besten geeignet sind.

Feature	Ressourcen
Real-Time Inferenz	Erste Schritte mit der Bereitstellung von Echtzeitmodellen auf Amazon SageMaker AI Bereitstellen BLOOM-176B und OPT-30B auf Amazon SageMaker AI mit großen Model-Inferenz-Deep Deep Learning Containers und DeepSpeed Erstellen einer auf maschinellem Lernen basierenden REST-API mit Amazon API Gateway Gateway-Zuordnungsvorlagen und Amazon AI SageMaker
Auto Scaling	Konfiguration von Inferenzendpunkten mit automatischer Skalierung in Amazon AI SageMaker
Serverlose Inferenz	Amazon SageMaker Serverless Inference — Inferenz mit Machine Learning, ohne sich Gedanken über Server machen zu müssen Hosten Sie Hugging Face Face-Transformer-Modelle mit Amazon Serverless Inference SageMaker Wir stellen vor: das Amazon SageMaker Serverless Inference Benchmarking Toolkit
Asynchrone Inferenz	Führen Sie Computer-Vision-Inferenz für große Videos mit asynchronen Amazon SageMaker AI-Endpunkten durch Entwickeln Sie eine Lösung für vorausschauende Wartung mit Amazon Kinesis und Amazon AI AWS Glue SageMaker Verbessern Sie hochwertige Recherchen mit den Endpunkten Hugging Face und Amazon SageMaker Asynchronous Inference
Batch-Transformation	Verknüpfen von Prognoseergebnissen mit Eingabedaten mithilfe von Amazon SageMaker AI Batch Transform
Multi-Model Endpunkte	Sparen Sie Inferenzkosten, indem Sie Amazon SageMaker AI-Endgeräte mit mehreren Modellen verwenden Führen Sie mehrere Deep-Learning-Modelle auf der GPU mit Amazon SageMaker AI-Endpunkten mit mehreren Modellen aus So skalieren Sie die Inferenz für Machine Learning für SaaS-Anwendungsfälle mit mehreren Mandanten Führen Sie Multi-Modell-Inferenzen mit Amazon SageMaker AI-Endpunkten für mehrere Modelle aus und optimieren Sie sie
Serielle Pipelines Inferenz	Entwurfsmuster für serielle Inferenz auf Amazon AI SageMaker
Multi-Container Endpunkte	Kosteneffiziente ML-Inferenz mit Multi-Framework-Modellen auf Amazon AI SageMaker
Modellensembles ausführen	Führen Sie Ensemble-ML-Modelle auf Amazon SageMaker AI aus
Inference Empfehlungsgeber	SageMaker Beispiel-Notizbuch für Inference Recommender SageMaker Beispielnotizbuch für Inference Recommender für HuggingFace BERT Sentiment Analysis Erzielen Sie Hyperscale-Leistung für Model Serving mit NVIDIA Triton Inference Server auf Amazon AI SageMaker
Blogserie zum Hosten fortgeschrittener Modelle	Teil 1: Allgemeine Entwurfsmuster für die Erstellung von ML-Anwendungen auf Amazon SageMaker AI Teil 2: Erste Schritte mit der Bereitstellung von Echtzeitmodellen auf SageMaker KI Teil 3: Ausführen und Optimieren von Multi-Modell-Inferenzen mit Amazon SageMaker AI-Endpunkten für mehrere Modelle Teil 4: Entwurfsmuster für serielle Inferenz auf Amazon AI SageMaker Teil 5: Kosteneffiziente ML-Inferenz mit Multi-Framework-Modellen auf Amazon AI SageMaker Teil 6: Bewährte Methoden beim Testen und Aktualisieren von KI-Modellen SageMaker Teil 7: Ensemble-ML-Modelle auf Amazon SageMaker AI ausführen

Beispiel-Notebooks

In der folgenden Tabelle finden Sie Beispiel-Notebooks, mit denen Sie mehr über SageMaker AI Inference erfahren können.

Feature	Beispiel-Notebooks
Inference Empfehlungsgeber	SageMaker Beispielnotizbuch für Inference Recommender SageMaker Beispielnotizbuch für Inference Recommender für HuggingFace BERT Sentiment Analysis
Optimieren Sie große Sprachmodelle (LLMs) für KI SageMaker	LLM-Workshop zu generativer KI

Weitere Ressourcen

Weitere Informationen zu den einzelnen SageMaker KI-Inferenzoptionen im Detail finden Sie im folgenden Video.

Warnung JavaScript ist in Ihrem Browser nicht verfügbar oder deaktiviert.

Zur Nutzung der AWS-Dokumentation muss JavaScript aktiviert sein. Weitere Informationen finden auf den Hilfe-Seiten Ihres Browsers.

Dokumentkonventionen

Ressourcen

Fehlerbehebung und Referenz