博客、示例笔记本和其他资源

• 开始在 Amazon A SageMaker I 上部署实时模型

• 使用大型模型推理 OPT-30B 在 Amazon A SageMaker I 上部署 BLOOM-176B 和使用 Deep Learning Containers 和 DeepSpeed

• 使用 Amazon API Gateway 映射模板和亚马逊 AI 创建由机器学习提供支持的 REST API SageMaker

• 在 Amazon AI 中配置自动缩放推理终端节点 SageMaker

• Amazon SageMaker Serverless 推理 — 无需担心服务器问题即可进行机器学习推理

• 使用 A SageMaker mazon 无服务器推理的主机 Hugging Face 转换器模型

• Amazon SageMaker 无服务器推理基准测试工具包简介

• 使用 Amazon A SageMaker I 异步终端节点对大型视频运行计算机视觉推理

• 使用 Amazon Kinesis 和亚马逊 AI 构建预测性维护解决方案 AWS Glue SageMaker

• 使用 Hugging Face 和 Ama SageMaker zon 异步推理终端节点改善高价值研究

• 使用 Amazon A SageMaker I Batch Transform 将预测结果与输入数据相关联

• 使用 Amazon A SageMaker I 多模型终端节点节省推理成本

• 使用 Amazon A SageMaker I 多模型终端节点在 GPU 上运行多个深度学习模型

• 如何针对多租户 SaaS 使用案例扩展机器学习推理

• 使用 Amazon A SageMaker I 多模型终端节点运行和优化多模型推理

• 在 Amazon A SageMaker I 上设计串行推理的模式

• 在 Amazon AI 上使用多框架模型进行具有成本效益的机器学习推理 SageMaker

• 在 Amazon A SageMaker I 上运行集成机器学习模型

• SageMaker 推理推荐器示例笔记本

• SageMaker HuggingFace BERT 情感分析的推理推荐器示例笔记本

• 在 Amazon AI 上使用 NVIDIA Triton 推理服务器实现模型服务的超大规模性能 SageMaker

• 第 1 部分：在 Amazon A SageMaker I 上构建 ML 应用程序的常见设计模式

• 第 2 部分：在 SageMaker AI 上部署实时模型入门

• 第 3 部分：使用 Amazon A SageMaker I 多模型终端节点运行和优化多模型推理

• 第 4 部分：在 Amazon A SageMaker I 上进行串行推理的设计模式

• 第 5 部分：在 Amazon AI 上使用多框架模型进行经济高效的机器学习推理 SageMaker

• 第 6 部分：在 SageMaker AI 上测试和更新模型的最佳实践

• 第 7 部分：在 Amazon A SageMaker I 上运行集成机器学习模型

• SageMaker 推理推荐器示例笔记本

• SageMaker HuggingFace BERT 情感分析的推理推荐器示例笔记本