Blogs e estudos de caso Cadernos de exemplo Recursos adicionais do

Blogs, exemplos de cadernos e recursos adicionais

As seções a seguir contêm exemplos e recursos adicionais para você aprender mais sobre a Amazon SageMaker AI.

Blogs e estudos de caso

Consulte a tabela a seguir para ver listas de blogs e estudos de caso sobre vários recursos do SageMaker AI Inference. Você pode usar os blogs para ajudá-lo a criar soluções que funcionam para o seu caso de uso.

Recurso	Recursos
Real-Time Inferência	Introdução à implantação de modelos em tempo real na Amazon AI SageMaker Implemente BLOOM-176B e OPT-30B na Amazon SageMaker AI com inferência de modelos grandes, Deep Learning Containers e DeepSpeed Criação de uma API REST baseada em aprendizado de máquina com modelos de mapeamento do Amazon API Gateway e Amazon AI SageMaker
Ajuste de escala automático	Configurando endpoints de inferência de escalonamento automático na Amazon AI SageMaker
Inferência Sem Servidor	Amazon SageMaker Serverless Inference — Inferência de Machine Learning sem se preocupar com servidores Hospede modelos de transformadores Hugging Face usando o Amazon Serverless Inference SageMaker Apresentando o kit de ferramentas de benchmarking de inferência SageMaker sem servidor da Amazon
Inferência assíncrona	Execute inferência de visão computacional em vídeos grandes com endpoints assíncronos de SageMaker IA da Amazon Crie uma solução de manutenção preditiva com o Amazon Kinesis e AWS Glue o Amazon AI SageMaker Melhore pesquisas de alto valor com os endpoints Hugging Face e SageMaker Amazon Asynchronous Inference
Transformação em lote	Associando resultados de previsão a dados de entrada usando o Amazon SageMaker AI Batch Transform
Multi-Model Pontos finais	Economize nos custos de inferência usando endpoints multimodelo de SageMaker IA da Amazon Execute vários modelos de aprendizado profundo na GPU com endpoints multimodelo Amazon SageMaker AI How to scale machine learning inference for multi-tenant SaaS use cases Execute e otimize a inferência de vários modelos com endpoints multimodelo de SageMaker IA da Amazon
Pipelines de inferência serial	Padrões de design para inferência serial na Amazon AI SageMaker
Multi-Container Pontos finais	Inferência de ML econômica com modelos de várias estruturas na Amazon AI SageMaker
Conjuntos de modelos em execução	Execute modelos de ML em conjunto na Amazon AI SageMaker
Recomendador de inferência	SageMaker Exemplo de caderno de referência do Inference Recommender SageMaker Exemplo de caderno Inference Recommender for HuggingFace BERT Sentiment Analysis Obtenha desempenho em hiperescala para fornecimento de modelos usando o NVIDIA Triton Inference Server na Amazon AI SageMaker
Série de blogs de hospedagem de modelos avançados	Parte 1: Padrões de design comuns para criar aplicativos de ML na Amazon SageMaker AI Parte 2: Introdução à implantação de modelos em tempo real na IA SageMaker Parte 3: Execute e otimize a inferência de vários modelos com endpoints multimodelo de SageMaker IA da Amazon Parte 4: Padrões de design para inferência serial na Amazon AI SageMaker Parte 5: Inferência de ML econômica com modelos de várias estruturas na Amazon AI SageMaker Parte 6: Melhores práticas para testar e atualizar modelos em SageMaker IA Parte 7: Execute modelos de ML em conjunto na Amazon AI SageMaker

Cadernos de exemplo

Consulte a tabela a seguir para ver exemplos de notebooks que podem ajudar você a aprender mais sobre a SageMaker inferência de IA.

Recurso	Cadernos de exemplo
Inference Recommender	SageMaker Exemplo de caderno de referência do Inference Recommender SageMaker Exemplo de caderno Inference Recommender for HuggingFace BERT Sentiment Analysis
Otimize modelos de linguagem grande (LLMs) para IA SageMaker	Workshop de LLMs de IA generativa

Recursos adicionais do

Para obter mais informações sobre cada opção de inferência de SageMaker IA em detalhes, assista ao vídeo a seguir.

Atenção O Javascript está desativado ou não está disponível no seu navegador.

Para usar a documentação da AWS, o Javascript deve estar ativado. Consulte as páginas de Ajuda do navegador para obter instruções.

Convenções do documento

Recursos

Solução de problemas e referência