View a markdown version of this page

Dettagli dell'architettura - Generative AI Application Builder su AWS

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Dettagli dell'architettura

Questa sezione descrive i componenti e i servizi AWS che compongono questa soluzione e i dettagli dell'architettura su come questi componenti interagiscono.

Servizi AWS in questa soluzione

Servizio AWS Description

Gateway Amazon API

Core. Questo servizio fornisce il REST APIs per la dashboard di distribuzione e l' WebSocket API per il caso d'uso.

AWS CloudFormation

Nucleo. Questa soluzione è distribuita come CloudFormation modello e CloudFormation distribuisce le risorse AWS per la soluzione.

Amazon CloudFront

Nucleo. CloudFront serve i contenuti Web ospitati in Amazon S3.

Amazon Cognito

Nucleo. Questo servizio gestisce la gestione e l'autenticazione degli utenti per l'API.

Amazon DynamoDB

Nucleo. DynamoDB archivia le informazioni sulla distribuzione e i dettagli di configurazione per la dashboard di distribuzione. Memorizza la cronologia chat e le conversazioni IDs nel caso d'uso Text per abilitare la cronologia delle conversazioni e la disambiguazione delle query.

AWS Lambda

Nucleo. La soluzione utilizza le funzioni Lambda per:

* Supporta gli endpoint WebSocket REST e API * Gestisci la logica di base di ogni use case orchestrator * Implementa risorse personalizzate durante la distribuzione CloudFormation

Amazon S3

Nucleo. Amazon S3 ospita i contenuti Web statici.

Amazon CloudWatch

Supporto. Questa soluzione pubblica i log dalle risorse della soluzione nei CloudWatch registri e pubblica le metriche nelle metriche. CloudWatch La soluzione crea anche una dashboard per visualizzare questi datiCloudWatch .

AWS Systems Manager

Supporto. Systems Manager fornisce il monitoraggio delle risorse a livello di applicazione e la visualizzazione delle operazioni delle risorse e dei dati sui costi. Utilizzato anche per memorizzare i dati di configurazione in Parameter Store.

AWS WAF

Supporto. AWS WAF viene distribuito prima della distribuzione API Gateway per proteggerlo.

Amazon Bedrock

Facoltativo. La soluzione sfrutta Amazon Bedrock per accedere a modelli base o personalizzati, Amazon Bedrock Agents, Amazon Bedrock Knowledge Base. Amazon Bedrock è l'integrazione consigliata per impedire che i dati lascino la rete AWS.

Amazon Bedrock AgentCore

Opzionale La soluzione sfrutta Amazon Bedrock AgentCore per eseguire e supportare connessioni a server MCP, nonché casi d'uso di Agent Builder e Workflow.

Amazon Elastic Container Registry (Amazon ECR)

Facoltativo. Per le implementazioni di Agent Builder, ECR archivia e distribuisce le immagini dei container degli agenti. La soluzione utilizza ECR Pull-Through Cache per recuperare automaticamente le immagini predefinite degli agenti dall'archivio ECR pubblico del team GAAB.

AWS Distro per OpenTelemetry (ADOT)

Facoltativo. Per le implementazioni di Agent Builder, ADOT fornisce una strumentazione automatica per l'osservabilità degli agenti, abilitando la tracciabilità distribuita e la registrazione strutturata per le operazioni degli agenti.

Amazon Kendra

Facoltativo. Nel caso Text use case, gli utenti amministratori possono facoltativamente decidere di collegare un indice Amazon Kendra da utilizzare come knowledge base per la conversazione con il LLM. Questo può essere usato per inserire nuove informazioni nel LLM, dandogli la possibilità di utilizzare tali informazioni nelle sue risposte.

Amazon SageMaker AI

Facoltativo. La soluzione può integrarsi con un endpoint di inferenza Amazon SageMaker AI per accedere ospitato all'interno del tuo account e della tua regione AWS ed è un'integrazione preferita per evitare FMs che i tuoi dati lascino la rete AWS.

Nota

È necessario distribuire la soluzione nella stessa regione in cui è disponibile l'endpoint di inferenza.

Amazon Virtual Private Cloud

Facoltativo. La soluzione offre la possibilità di implementare componenti con una configurazione abilitata per VPC. Durante l'implementazione della soluzione con una configurazione abilitata per VPC, hai la possibilità di lasciare che la soluzione crei un VPC per te o utilizzare un VPC esistente nello stesso account e nella stessa regione in cui verrà distribuita la soluzione (Bring Your Own VPC). Se la soluzione crea il VPC, crea i componenti di rete necessari che includono sottoreti, gruppi di sicurezza e relative regole, tabelle di routing, rete, gateway NAT ACLs, gateway Internet, endpoint VPC e relative politiche.