As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Endpoints compatíveis com o Amazon Bedrock
O Amazon Bedrock oferece suporte a vários endpoints, dependendo se você deseja realizar operadores de plano de controle ou operações de inferência.
Operações do plano de controle
As operações do plano de controle do Amazon Bedrock podem ser usadas com o endpoint: bedrock.{region}.amazonaws.com. elas podem ser usadas para gerenciar recursos, como listar modelos disponíveis, criar trabalhos de modelos personalizados e gerenciar a taxa de transferência provisionada. Leia mais sobre nossa API de plano de controle aqui.
Operações de inferência
O Amazon Bedrock oferece suporte aos dois endpoints principais a seguir para realizar inferências de forma programática:
| Endpoint | APIs compatíveis | Descrição |
|---|---|---|
bedrock-mantle.{region}.api.aws |
API de respostas//API de conclusão de bate-papo//API de mensagens | Region-specific endpoints para fazer solicitações de inferência para modelos hospedados no Amazon Bedrock usando os OpenAI-compatible endpoints e a API Anthropic Messages. |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel/Converse/Conclusões de bate-papo/API de mensagens | Region-specific endpoints para fazer solicitações de inferência para modelos hospedados no Amazon Bedrock usando as APIs. InvokeModel/Converse/Chat Completions/Messages Leia mais sobre as APIs do Amazon Bedrock Runtime aqui. |
Qual endpoint de serviço você deve usar para sua inferência?
O endpoint que você usa depende do seu caso de uso.
| Endpoint | Características e casos de uso |
|---|---|
bedrock-mantle |
Suporta OpenAI-compatible APIs (API de respostas, API de conclusão de bate-papo) e a API de Anthropic-native mensagens. Use para: migrar facilmente de outros modelos que usam as OpenAI-compatible APIs. Características: Suporta o uso de ferramentas do lado do cliente e do servidor com as funções Lambda e vem configurado com ferramentas prontas para uso em seus aplicativos. Recomendado para: Novos usuários do Amazon Bedrock. |
bedrock-runtime |
Use para: Executar qualquer modelo compatível com o Amazon Bedrock. A API Converse fornece uma interface unificada para interagir com todos os modelos no Amazon Bedrock e a API Invoke fornece acesso direto aos modelos com mais capacidade de controlar o formato de solicitação e resposta. Você também pode usar a API Chat Completions para interagir com seus modelos. Características: Suporta somente o uso de ferramentas do lado do cliente com funções Lambda e não vem pré-configurado com ferramentas prontas para uso. Permite que você acompanhe o uso e os custos ao invocar um modelo. |
Se você é novo no Amazon Bedrock, recomendamos o uso de APIs abertas, como a API de mensagens, a API de conclusão de bate-papo ou a API de respostas. Essas APIs estão disponíveis nos dois endpoints, mas recomendamos o bedrock-mantle endpoint.
Reduza os custos de saída de dados com endpoints de interface VPC
Se você estiver ligando para o Amazon Bedrock de dentro de uma VPC, considere usar endpoints de interface VPC (AWS) para manter o tráfego na rede PrivateLink da AWS e evitar cobranças de saída de dados associadas a gateways NAT ou gateways de internet.
