Incorporamenti di testo Titan v2 - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Incorporamenti di testo Titan v2

Amazon — Incorporamenti di testo Titan v2

Dettagli del modello

Descrizione del modello disponibile a breve.

  • Data EOL del modello: N/A

  • Contratti di licenza con l'utente finale e condizioni d'uso: Visualizza

  • Ciclo di vita del modello: attivo

  • Finestra contestuale: 8K token

Modalità di input Modalità di output APIs supportate Endpoint supportati
NoAudioYesIncorporamentoNo ResponsesYes bedrock-runtime
NoImmagineNoImmagineNo Chat CompletionsNo bedrock-mantle
NoDiscorsoNoDiscorsoNo Invoke
YesTestoNoTestoNo Converse
NoVideoNoVideo

Prezzi

Per i prezzi, consulta la pagina dei prezzi di Amazon Bedrock.

Accesso programmatico

Utilizza il modello IDs e l'endpoint seguenti URLs per accedere a questo modello a livello di codice. Per ulteriori informazioni sugli endpoint disponibili, consulta APIs APIs Supported ed Endpoints supportati.

Endpoint ID del modello URL dell'endpoint locale ID di inferenza geografica ID di inferenza globale
bedrock-runtime amazon.titan-embed-g1-text-02 https://bedrock-runtime.{region}.amazonaws.com Non supportata Non supportata

Ad esempio, se la regione è us-east-1 (Virginia settentrionale), l'URL dell'endpoint bedrock-runtime sarà "" e per bedrock-mantle sarà https://bedrock-runtime.us-east-1.amazonaws.com "https://bedrock-mantle.us-east-1.api.aws/v1».

Disponibilità regionale

Panoramica della disponibilità regionale

Bedrock offre tre opzioni di inferenza: In-Region mantiene le richieste all'interno di un'unica regione per garantire la massima conformità, percorsi geografici interregionali tra regioni all'interno di un'area geografica (Stati Uniti, UE, ecc.) per una maggiore velocità di trasmissione nel rispetto della residenza dei dati e rotte globali interregionali in tutto il mondo per la massima produttività quando non ci sono vincoli di residenza. Disponibilità regionaleConsulta la pagina per maggiori dettagli.

Region All'interno della regione Geo Globale
us-east-1(Virginia settentrionale)YesNoNo
us-west-2(Oregon)YesNoNo

Quote e limiti

Il tuo account AWS dispone di quote predefinite per mantenere le prestazioni del servizio e garantire un uso appropriato di Amazon Bedrock. Le quote predefinite assegnate a un account potrebbero essere aggiornate in base a fattori regionali, alla cronologia dei pagamenti, all'utilizzo fraudolento, all' and/or approvazione di una richiesta di aumento delle quote. Per maggiori dettagli, consulta la Quote per Amazon Bedrock documentazione e consulta i limiti del modello.

Codice di esempio

Fase 1 - Account AWS: se hai già un account AWS, salta questo passaggio. Se non conosci AWS, registrati per un account AWS.

Fase 2 - Chiave API: vai alla console Amazon Bedrock e genera una chiave API a lungo termine.

Passaggio 3 - Scarica l'SDK: per utilizzare questa guida introduttiva, devi avere Python già installato. Quindi installa il software pertinente a seconda di APIs quello che stai utilizzando.

pip install boto3

Passaggio 4 - Imposta le variabili di ambiente: configura l'ambiente per utilizzare la chiave API per l'autenticazione.

AWS_BEARER_TOKEN_BEDROCK="<provide your Bedrock API key>"

Passaggio 5 - Esegui la tua prima richiesta di inferenza: salva il file come bedrock-first-request.py