View a markdown version of this page

Points de terminaison pris en charge par Amazon Bedrock - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Points de terminaison pris en charge par Amazon Bedrock

Amazon Bedrock prend en charge différents points de terminaison selon que vous souhaitez effectuer des opérateurs de plan de contrôle ou des opérations d'inférence.

Opérations du plan de contrôle

Les opérations du plan de contrôle Amazon Bedrock peuvent être utilisées avec le point de terminaison : bedrock.{region}.amazonaws.com. elles peuvent être utilisées pour gérer les ressources, telles que la liste des modèles disponibles, la création de tâches de modèles personnalisés et la gestion du débit provisionné. Pour en savoir plus sur notre API de plan de contrôle, cliquez ici.

Opérations d'inférence

Amazon Bedrock prend en charge les deux principaux points de terminaison suivants pour effectuer des inférences par programmation :

Point de terminaison API prises en charge Description
bedrock-mantle.{region}.api.aws API de réponses/API de fin de chat/API de messages Region-specific points de terminaison pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide des OpenAI-compatible points de terminaison et de l'API Anthropic Messages.
bedrock-runtime.{region}.amazonaws.com InvokeModel/Converse//Achèvement du chat//API de messages Region-specific points de terminaison pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide des API. InvokeModel/Converse/Chat Completions/Messages Pour en savoir plus sur les API Amazon Bedrock Runtime, cliquez ici.

Quel point de terminaison de service devez-vous utiliser pour votre inférence ?

Le point de terminaison que vous utilisez dépend de votre cas d'utilisation.

Point de terminaison Fonctionnalités et cas d'utilisation
bedrock-mantle

Supporte OpenAI-compatible les API (API Responses, API Chat Completions) et l'API Anthropic-native Messages.

Utilisation pour : migrer facilement depuis d'autres modèles utilisant les OpenAI-compatible API.

Caractéristiques : prend en charge l'utilisation des outils côté client et côté serveur avec les fonctions Lambda et est configuré avec des outils prêts à l'emploi dans vos applications.

Recommandé pour : Nouveaux utilisateurs d'Amazon Bedrock.

bedrock-runtime

Supporte les API natives d'Amazon Bedrock (API Invoke, API Converse), l'API Anthropic-native Messages et l'API OpenAI-compatible Chat Completions.

Utilisation pour : exécuter n'importe quel modèle compatible avec Amazon Bedrock. L'API Converse fournit une interface unifiée pour interagir avec tous les modèles d'Amazon Bedrock et l'API Invoke fournit un accès direct aux modèles avec une meilleure capacité à contrôler le format des demandes et des réponses. Vous pouvez également utiliser l'API Chat Completions pour interagir avec vos modèles.

Caractéristiques : prend en charge uniquement l'utilisation des outils côté client avec les fonctions Lambda et n'est pas préconfiguré avec des outils prêts à l'emploi. Vous permet de suivre l'utilisation et les coûts lorsque vous invoquez un modèle.

Si vous utilisez Amazon Bedrock pour la première fois, nous vous recommandons d'utiliser des API ouvertes telles que l'API Messages, l'API Chat Completions ou l'API Responses. Ces API sont disponibles sur les deux points de terminaison, mais nous recommandons le bedrock-mantle point de terminaison.

Réduisez les coûts de sortie de données grâce aux points de terminaison d'interface VPC

Si vous appelez Amazon Bedrock depuis un VPC, pensez à utiliser des points de terminaison d'interface VPC (AWS) pour maintenir le trafic au sein du réseau PrivateLink AWS et éviter les frais de sortie de données associés aux passerelles NAT ou aux passerelles Internet.