本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon Bedrock 支援的 APIs
支援的推論 APIs
Amazon Bedrock 提供五個主要 API 模式來執行推論。APIs 會依其使用的服務端點分組。
bedrock-mantle 端點
bedrock-mantle.{region}.amazonaws.com 端點支援下列 APIs:
bedrock-runtime 端點
bedrock-runtime.{region}.amazonaws.com 端點支援下列 APIs:
| API 方法 | 最適合 的使用案例 | 金鑰功能 |
|---|---|---|
| Converse | 多轉聊天/標準化 | Converse API 提供與 Amazon Bedrock 中所有模型互動的統一界面。 |
| Invoke | 單一交易/大型承載 | 調用 API 可讓您直接存取對請求和回應格式具有更多控制權的模型。 |
| 訊息 API | Anthropic 原生界面 | 透過 InvokeModel 使用 Messages API,以原生請求格式直接存取 Anthropic 模型。 |
| 聊天完成 | 無狀態多轉聊天 | 使用聊天完成 API 進行 OpenAI 相容無狀態聊天互動。 |
進一步了解 Amazon Bedrock 支援的 APIs。
在 APIs之間決定
您使用的 API 取決於您的使用案例。
| 使用案例 | 建議的 API |
|---|---|
| 從 OpenAI API 相容端點遷移 | 使用 OpenAI 相容 APIs:回應 API |
| 使用與 OpenAI 相容端點不相容的模型 | 使用原生 Amazon Bedrock APIs:Converse 和 Invoke。如需詳細資訊,請參閱使用叫用 API 的推論。 |
| 所有模型的一致界面 | Converse API - 適用於所有支援訊息的模型。編寫程式碼一次,並搭配不同的模型使用。如需範例程式碼,請參閱 Converse API 範例。 |
| 具有完全控制的直接模型存取 | 調用 API - 提供對模型的直接存取,對請求和回應格式有更多控制權。使用 產生文字、影像和內嵌。如需範例程式碼,請參閱叫用模型程式碼範例。 |
| Amazon Bedrock 的新手 | 我們建議您使用開啟APIs,例如訊息 API、聊天完成 API 或回應 API。這些 APIs可在兩個端點上使用,但我們建議使用bedrock-mantle端點。 |
每個 API 和端點支援的模型
首先,瀏覽我們的模型以決定您要使用的模型。決定要使用的模型後,您可以根據選擇要使用的端點,查看其支援的 APIs和 。bedrock-mantle 支援回應、聊天完成和訊息 API。bedrock-runtime 支援調用、對話、聊天完成和訊息 API。我們建議您盡可能使用bedrock-mantle端點。