Blog e casi di studio Notebook di esempio Risorse aggiuntive

Blog, notebook di esempio e risorse aggiuntive

Le seguenti sezioni contengono esempi e risorse aggiuntive per saperne di più su Amazon SageMaker AI.

Blog e casi di studio

Consulta la tabella seguente per elenchi di blog e case study relativi a varie funzionalità di SageMaker AI Inference. Puoi utilizzare i blog per creare soluzioni più adatte al tuo caso d'uso.

Funzionalità	Resources
Real-Time Inferenza	Guida introduttiva alla distribuzione di modelli in tempo reale su Amazon SageMaker AI Implementa BLOOM-176B e OPT-30B su Amazon SageMaker AI con Deep Learning Containers di inferenza di modelli di grandi dimensioni e DeepSpeed Creazione di un'API REST basata sull'apprendimento automatico con modelli di mappatura Amazon API Gateway e Amazon AI SageMaker
Dimensionamento automatico	Configurazione degli endpoint di inferenza con scalabilità automatica in Amazon AI SageMaker
Inferenza serverless	Amazon SageMaker Serverless Inference: inferenza tramite Machine Learning senza preoccuparsi dei server Ospita modelli di trasformatori Hugging Face utilizzando Amazon Serverless Inference SageMaker Presentazione dell'Amazon SageMaker Serverless Inference Benchmarking Toolkit
Inferenza asincrona	Esegui inferenze di visione artificiale su video di grandi dimensioni con endpoint asincroni di Amazon SageMaker AI Crea una soluzione di manutenzione predittiva con Amazon Kinesis AWS Glue e Amazon AI SageMaker Migliora la ricerca ad alto valore con gli endpoint Hugging Face e SageMaker Amazon Asynchronous Inference
Batch Transform	Associazione dei risultati delle previsioni ai dati di input utilizzando Amazon AI SageMaker Batch Transform
Multi-Model Endpoint	Risparmia sui costi di inferenza utilizzando gli endpoint multimodello di Amazon SageMaker AI Esegui più modelli di deep learning su GPU con endpoint SageMaker multimodello Amazon AI Come scalare l'inferenza del machine learning per casi d'uso SaaS multi-tenant Esegui e ottimizza l'inferenza multimodello con gli endpoint multimodello di Amazon SageMaker AI
Pipeline di inferenza seriale	Modelli di progettazione per l'inferenza seriale su Amazon SageMaker AI
Multi-Container Endpoint	Inferenza ML a costi contenuti con modelli multi-framework su Amazon AI SageMaker
Esecuzione di insiemi di modelli	Esegui modelli di Ensemble ML su Amazon SageMaker AI
Suggeritore di inferenza	SageMaker Notebook di esempio Inference Recommender SageMaker Notebook di esempio Inference Recommender per HuggingFace BERT Sentiment Analysis Ottieni prestazioni iperscalabili per il servizio di modelli utilizzando NVIDIA Triton Inference Server su Amazon AI SageMaker
Serie di blog di hosting di modelli avanzati	Parte 1: modelli di progettazione comuni per la creazione di applicazioni ML su Amazon SageMaker AI Parte 2: Iniziare a implementare modelli in tempo reale sull'intelligenza artificiale SageMaker Parte 3: Esegui e ottimizza l'inferenza multimodello con gli endpoint multimodello di Amazon SageMaker AI Parte 4: modelli di progettazione per l'inferenza seriale su Amazon SageMaker AI Parte 5: inferenza ML a costi contenuti con modelli multi-framework su Amazon AI SageMaker Parte 6: Le migliori pratiche per testare e aggiornare i modelli sull'intelligenza artificiale SageMaker Parte 7: esegui modelli di Ensemble ML su Amazon SageMaker AI

Notebook di esempio

Consulta la tabella seguente con alcuni esempi di notebook che possono aiutarti a saperne di più su AI Inference. SageMaker

Funzionalità	Notebook di esempio
Suggeritore di inferenza	SageMaker Notebook di esempio Inference Recommender SageMaker Notebook di esempio Inference Recommender per HuggingFace BERT Sentiment Analysis
Ottimizza i modelli linguistici di grandi dimensioni (LLM) per l'IA SageMaker	Workshop sui LLM di IA generativa

Risorse aggiuntive

Per ulteriori informazioni dettagliate su ciascuna opzione di SageMaker AI Inference, puoi guardare il seguente video.

Avvertimento JavaScript è disabilitato o non è disponibile nel tuo browser.

Per usare la documentazione AWS, JavaScript deve essere abilitato. Consulta le pagine della guida del browser per le istruzioni.

Convenzioni dei documenti

Resources

Risoluzione dei problemi e riferimento