Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Endpoint supportati da Amazon Bedrock
Amazon Bedrock supporta vari endpoint a seconda che si desideri eseguire operatori del piano di controllo o operazioni di inferenza.
Operazioni Control Plane
Le operazioni del piano di controllo di Amazon Bedrock possono essere utilizzate con l'endpoint: bedrock.{region}.amazonaws.com. possono essere utilizzate per gestire risorse, ad esempio elencare i modelli disponibili, creare processi di modello personalizzati e gestire il throughput assegnato. Scopri di più sulla nostra API del piano di controllo qui.
Operazioni di inferenza
Amazon Bedrock supporta i seguenti due endpoint primari per eseguire l'inferenza a livello di codice:
| Endpoint | API supportate | Descrizione |
|---|---|---|
bedrock-mantle.{region}.api.aws |
API di risposte/API di completamento della chat/API dei messaggi | Region-specific endpoint per effettuare richieste di inferenza per modelli ospitati in Amazon Bedrock utilizzando gli OpenAI-compatible endpoint e l'API Anthropic Messages. |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel/Converse//Chat Completions//API Messages | Region-specific endpoint per effettuare richieste di inferenza per modelli ospitati in Amazon Bedrock utilizzando le API. InvokeModel/Converse/Chat Completions/Messages Scopri di più sulle API Amazon Bedrock Runtime qui. |
Quale endpoint di servizio dovresti usare per la tua inferenza?
L'endpoint che usi dipende dal tuo caso d'uso.
| Endpoint | Caratteristiche e casi d'uso |
|---|---|
bedrock-mantle |
Supporta le OpenAI-compatible API (API Responses, API Chat Completions) e l'API Anthropic-native Messages. Utilizzo per: migrazione semplice da altri modelli che utilizzano le API. OpenAI-compatible Caratteristiche: supporta l'uso degli strumenti lato client e server con le funzioni Lambda e viene configurato con strumenti pronti all'uso nelle applicazioni. Consigliato per: nuovi utenti di Amazon Bedrock. |
bedrock-runtime |
Utilizzare per: eseguire qualsiasi modello supportato da Amazon Bedrock. L'API Converse fornisce un'interfaccia unificata per interagire con tutti i modelli in Amazon Bedrock e l'API Invoke fornisce l'accesso diretto ai modelli con una maggiore capacità di controllare il formato di richiesta e risposta. Puoi anche utilizzare l'API Chat Completions per interagire con i tuoi modelli. Caratteristiche: supporta solo l'uso degli strumenti lato client con le funzioni Lambda e non è preconfigurato con strumenti pronti all'uso. Consente di tenere traccia dell'utilizzo e dei costi quando si richiama un modello. |
Se non conosci Amazon Bedrock, ti consigliamo di utilizzare API aperte come l'API Messages, l'API Chat Completions o l'API Responses. Queste API sono disponibili su entrambi gli endpoint, ma consigliamo l'endpoint. bedrock-mantle
Riduci i costi di uscita dei dati con gli endpoint dell'interfaccia VPC
Se chiami Amazon Bedrock dall'interno di un VPC, prendi in considerazione l'utilizzo degli endpoint di interfaccia VPC (AWS) per mantenere il traffico all'interno della rete PrivateLink AWS ed evitare i costi di uscita dei dati associati ai gateway NAT o ai gateway Internet.
