View a markdown version of this page

APIs suportadas pelo Amazon Bedrock - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

APIs suportadas pelo Amazon Bedrock

APIs de inferência suportadas

O Amazon Bedrock fornece cinco padrões principais de API para realizar inferências. As APIs são agrupadas pelo endpoint de serviço que elas usam.

Endpoint do bedrock-mantle

O bedrock-mantle.{region}.amazonaws.com endpoint é compatível com as seguintes APIs:

Método da API Use-case mais adequado para Característica chave
API de respostas (recomendada) Conversas sensacionais Use a API de respostas para aplicativos modernos e agentes que exigem o uso de ferramentas integradas (pesquisa, intérprete de código), entradas multimodais e conversas com estado.
API de mensagens (recomendada) Anthropic-native interface Use a API de mensagens para acesso direto aos modelos antrópicos usando o formato de Anthropic-native solicitação e resposta.
Conclusões de bate-papo Bate-papo sem estado em vários turnos Use a API Chat Completions para tarefas leves, sem estado e focadas em texto, nas quais você precisa de controle total sobre o gerenciamento do histórico de bate-papo e menor latência.

Endpoint do bedrock-runtime

O bedrock-runtime.{region}.amazonaws.com endpoint é compatível com as seguintes APIs:

Método da API Use-case mais adequado para Característica chave
Converse Multi-turn chat/padronização A API Converse fornece uma interface unificada para interagir com todos os modelos no Amazon Bedrock.
Invoke Transações únicas/Cargas úteis grandes A API Invoke fornece acesso direto aos modelos com mais controle sobre o formato da solicitação e da resposta.
API de mensagens Anthropic-native interface Use a API de mensagens via InvokeModel para acesso direto aos modelos antrópicos usando o formato de solicitação nativo.
Conclusões de bate-papo Bate-papo sem estado em vários turnos Use a API Chat Completions para interações de bate-papo OpenAI-compatible sem estado.

Leia mais sobre as APIs suportadas pelo Amazon Bedrock.

Decidindo entre APIs

A API que você usa depende do seu caso de uso.

Caso de uso API recomendada
Migração do endpoint OpenAI API-compatible Use OpenAI-compatible APIs: API de respostas ou API de conclusão de bate-papo. De acordo com a OpenAI, a API recomendada a longo prazo é a API de respostas.
Usando modelos não compatíveis com OpenAI-compatible endpoint Use as APIs nativas do Amazon Bedrock: Converse e Invoke. Para obter mais informações, consulte Inferência usando a API Invoke.
Interface consistente em todos os modelos API Converse - Funciona com todos os modelos que oferecem suporte a mensagens. Escreva o código uma vez e use-o com modelos diferentes. Por exemplo de código, consulte exemplos da API Converse.
Acesso direto ao modelo com controle total API Invoke - Fornece acesso direto aos modelos com mais controle sobre o formato de solicitação e resposta. Use para gerar texto, imagens e incorporações. Por exemplo de código, consulte exemplos de código do modelo Invoke.
Novo no Amazon Bedrock Recomendamos o uso de APIs abertas, como API de mensagens, API de conclusão de bate-papo ou API de respostas. Essas APIs estão disponíveis nos dois endpoints, mas recomendamos o bedrock-mantle endpoint.

Modelos compatíveis com cada API e endpoint

Primeiro, navegue em nossos modelos para decidir o modelo que você deseja usar. Depois de decidir o modelo que deseja usar, você pode ver as APIs suportadas e, com base nisso, escolher qual endpoint usar. O bedrock-mantle suporta as APIs de respostas, conclusões de bate-papo e mensagens. O bedrock-runtime suporta as APIs Invoke, Converse, Chat Completions e Messages. Recomendamos usar o bedrock-mantle endpoint sempre que possível.