Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Inferenza utilizzando l'API Anthropic Messages
L'API Anthropic Messages fornisce l'accesso nativo ai modelli di Claude utilizzando il formato di richiesta e risposta Anthropic. Puoi utilizzare l'API Messages sia sugli endpoint che sugli bedrock-runtime endpoint, offrendoti la bedrock-mantle flessibilità di scegliere lo stile di autenticazione e integrazione più adatto alla tua applicazione.
| Endpoint | URL di base | Caso d'uso |
|---|---|---|
bedrock-mantle |
https://bedrock-mantle.{region}.api.aws/anthropic/v1/messages |
Consigliato per nuove applicazioni. Supporta l'autenticazione delle chiavi API eSpazi di lavoro () Anthropic-compatible. |
bedrock-runtime |
https://bedrock-runtime.{region}.amazonaws.com |
Utilizzalo con le integrazioni AWS SDK esistenti e la registrazione delle chiamate. |
Regioni supportate
L'API Messages è disponibile sull'bedrock-mantleendpoint in tutte le regioni che supportano (vedi). bedrock-mantle Regioni ed endpoint supportati Sull'bedrock-runtimeendpoint, è disponibile in tutte le regioni in cui sono disponibili i modelli Claude. Per informazioni dettagliate, vedi Disponibilità regionale.
Prerequisiti
Prima di utilizzare l'API Messages, assicurati di disporre di quanto segue:
-
Accesso ai modelli: richiedi l'accesso ai modelli Claude nella console Amazon Bedrock. Per informazioni, consulta Richiedi l'accesso ai modelli.
-
Autenticazione: dipende dall'endpoint:
-
bedrock-mantle— Utilizza una chiave API Amazon Bedrock (vediChiavi API) o credenziali AWS SigV4. -
bedrock-runtime— Usa le credenziali AWS SigV4 tramite l' AWS SDK (boto3, ecc.).
-
-
Intestazione della versione antropica: tutte le richieste richiedono una versione API:
-
bedrock-mantle: Impostaanthropic-version: 2023-06-01come intestazione HTTP. -
bedrock-runtime: impostato"anthropic_version": "bedrock-2023-05-31"nel corpo della richiesta.
-
Richiesta di base
Per inviare un messaggio di base a un modello Claude, scegli la scheda corrispondente al metodo che preferisci, quindi segui i passaggi:
Risposte in streaming
Per ricevere i token di risposta in modo incrementale man mano che vengono generati, scegli la scheda corrispondente al tuo metodo preferito, quindi segui i passaggi:
Funzionalità supportate
L'API Messages supporta le seguenti funzionalità avanzate con i modelli Claude:
-
Istruzioni di sistema: imposta il comportamento del modello con un parametro.
system -
Multi-turn conversazioni — Passa messaggi alternati.
userassistant -
Uso dell'utensile: definisce gli strumenti che il modello può chiamare. Per informazioni, consulta Utilizzo di uno strumento per completare una risposta al modello Amazon Bedrock.
-
Visione: invia immagini nell'
contentarray insieme al testo. -
Pensiero esteso: abilita il ragionamento basato sulla catena di pensiero. Per informazioni, consulta Migliorare le risposte del modello con il ragionamento basato su modello.
-
Memorizzazione rapida nella cache: memorizza nella cache il contesto utilizzato di frequente per ridurre latenza e costi.
Per il formato completo di richiesta e risposta dell'API Messages, inclusi tutti i parametri e le funzionalità, consulta. Anthropic Claude API Messages di
Conta i token
Per contare il numero di token di input che una richiesta consumerebbe prima di inviarla per l'inferenza, usa il count_tokens percorso Anthropic sull'endpoint. bedrock-mantle Questo è l'unico percorso di conteggio dei token supportato per i modelli Claude che non sono disponibili su un Region-specific endpoint, inclusi i modelli Claude che vengono avviati solo bedrock-runtime con l'inferenza tra regioni (CRIS). Per informazioni dettagliate e un esempio, consulta Conta i token usando l'endpoint bedrock-mantle.