本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
Amazon Bedrock 支持的 API
支持推理 API
Amazon Bedrock 提供了五种主要的 API 模式来执行推理。这些 API 按其使用的服务端点进行分组。
bedrock-mantle 终端节点
终bedrock-mantle.{region}.amazonaws.com端节点支持以下 API:
| API 方法 | Use-case 最适合 | 关键特征 |
|---|---|---|
| 响应 API(推荐) | 有状态的对话 | 对于需要使用内置工具(搜索、代码解释器)、多模态输入和有状态对话的现代代理应用程序,请使用 Responses API。 |
| 消息 API(推荐) | Anthropic-native 接口 | 使用消息 API 通过 Anthropic-native 请求和响应格式直接访问 Anthropic 模型。 |
| 聊天完成次数 | 无状态多回合聊天 | 使用 Chat Completions API 执行轻量级、无状态、以文本为重点的任务,在这些任务中,您需要完全控制聊天记录管理和降低延迟。 |
bedrock-runtime 终端节点
终bedrock-runtime.{region}.amazonaws.com端节点支持以下 API:
| API 方法 | Use-case 最适合 | 关键特征 |
|---|---|---|
| Converse | Multi-turn 聊天/标准化 | Converse API 提供了一个统一的接口,用于与 Amazon Bedrock 中的所有模型进行交互。 |
| Invoke | 单笔交易/大型有效负载 | Invoke API 提供了对模型的直接访问,可以更好地控制请求和响应格式。 |
| Messages API | Anthropic-native 接口 | 使用 Messages API 通过 InvokeModel 使用原生请求格式直接访问 Anthropic 模型。 |
| 聊天完成次数 | 无状态多回合聊天 | 使用聊天完成 API 进行 OpenAI-compatible 无状态聊天互动。 |
阅读有关 Amazon Bedrock 支持的 API 的更多信息。
在 API 之间做出决定
您使用的 API 取决于您的用例。
| 使用场景 | 推荐的 API |
|---|---|
| 从 Open API-compatible AI 终端节点迁移 | 使用 OpenAI-compatible API:响应 API |
| 使用与 OpenAI-compatible 端点不兼容的模型 | 使用原生 Amazon Bedrock API:C onverse 和调用。有关更多信息,请参阅 使用调用 API 进行推理。 |
| 所有型号均采用一致的接口 | Converse API-适用于所有支持消息的模型。只需编写一次代码,即可将其用于不同的模型。有关示例代码,请参阅匡威 API 示例。 |
| 完全控制直接访问模型 | 调用 API-通过更好地控制请求和响应格式,提供对模型的直接访问。用于生成文本、图像和嵌入内容。有关示例代码,请参阅调用模型代码示例。 |
| Amazon Bedrock 的新手 | 我们建议使用开放式 API,例如消息 API、聊天完成 API 或响应 API。这些 API 在两个端点上都可用,但我们建议使用bedrock-mantle终端节点。 |
每个 API 和端点支持的模型
首先,浏览我们的模型以决定要使用的模型。确定要使用的模型后,就可以看到它支持的 API,并据此选择要使用的端点。bedrock-mantle支持 “回复”、“聊天完成” 和 “消息” API。bedrock-runtime支持 “调用”、“交谈”、“聊天完成” 和 “消息” API。我们建议尽可能使用终bedrock-mantle端节点。