Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Points de terminaison pris en charge par Amazon Bedrock
Amazon Bedrock prend en charge différents points de terminaison selon que vous souhaitez effectuer des opérateurs de plan de contrôle ou des opérations d'inférence.
Opérations du plan de contrôle
Les opérations du plan de contrôle Amazon Bedrock peuvent être utilisées avec le point de terminaison : bedrock.{region}.amazonaws.com. elles peuvent être utilisées pour gérer les ressources, telles que la liste des modèles disponibles, la création de tâches de modèles personnalisés et la gestion du débit provisionné. Pour en savoir plus sur notre API de plan de contrôle, cliquez ici.
Opérations d'inférence
Amazon Bedrock prend en charge les deux principaux points de terminaison suivants pour effectuer des inférences par programmation :
| Point de terminaison | Soutenu APIs | Description |
|---|---|---|
bedrock-mantle.{region}.api.aws |
API de réponses/API de fin de chat | Points de terminaison spécifiques à une région pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide des points de terminaison compatibles avec OpenAI. |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel/Converse/Achèvement du chat | Points de terminaison spécifiques à une région pour effectuer des demandes d'inférence pour les modèles hébergés dans Amazon Bedrock à l'aide du fichier /Converse/Chat Completions. InvokeModel APIs Pour en savoir plus sur Amazon Bedrock Runtime, cliquez APIs ici. |
Quel point de terminaison de service devez-vous utiliser pour votre inférence ?
Le point de terminaison que vous utilisez dépend de votre cas d'utilisation.
| Point de terminaison | Fonctionnalités et cas d'utilisation |
|---|---|
bedrock-mantle |
Supporte la compatibilité avec OpenAI APIs (API Responses, API Chat Completions). Utilisation pour : migrer facilement depuis d'autres modèles utilisant la compatibilité APIs OpenAI. Caractéristiques : prend en charge l'utilisation des outils côté client et côté serveur avec les fonctions Lambda et est configuré avec des ready-to-use outils dans vos applications. Recommandé pour : Nouveaux utilisateurs d'Amazon Bedrock. |
bedrock-runtime |
Supporte la version native d'Amazon Bedrock APIs (API Invoke, API Converse). Supporte également l'API Chat Completions compatible avec OpenAI. Utilisation pour : exécuter n'importe quel modèle compatible avec Amazon Bedrock. L'API Converse fournit une interface unifiée pour interagir avec tous les modèles d'Amazon Bedrock et l'API Invoke fournit un accès direct aux modèles avec une meilleure capacité à contrôler le format des demandes et des réponses. Vous pouvez également utiliser l'API Chat Completions pour interagir avec vos modèles. Caractéristiques : prend en charge uniquement l'utilisation d'outils côté client avec les fonctions Lambda et n'est pas préconfiguré avec les outils. ready-to-use Vous permet de suivre l'utilisation et les coûts lorsque vous invoquez un modèle. |
Si vous utilisez Amazon Bedrock pour la première fois, nous vous recommandons de commencer par le bedrock-mantle point de terminaison.
