Einzelheiten zur Architektur - Generativer KI-Anwendungsgenerator auf AWS

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Einzelheiten zur Architektur

In diesem Abschnitt werden die Komponenten und AWS-Services beschrieben, aus denen diese Lösung besteht, sowie die Architekturdetails dazu, wie diese Komponenten zusammenarbeiten.

AWS-Services in dieser Lösung

AWS Service Description

Amazon API Gateway

Kern. Dieser Service stellt den REST APIs für das Deployment-Dashboard und die WebSocket API für den Anwendungsfall bereit.

AWS CloudFormation

Kern. Diese Lösung wird als CloudFormation Vorlage verteilt und CloudFormation stellt die AWS-Ressourcen für die Lösung bereit.

Amazon CloudFront

Kern. CloudFront stellt die in Amazon S3 gehosteten Webinhalte bereit.

Amazon Cognito

Kern. Dieser Dienst kümmert sich um die Benutzerverwaltung und Authentifizierung für die API.

Amazon-DynamoDB

Kern. DynamoDB speichert Bereitstellungsinformationen und Konfigurationsdetails für das Deployment-Dashboard. Es speichert den Chatverlauf und die Konversation IDs im Text-Anwendungsfall, um den Konversationsverlauf und die Abfrageunterscheidung zu ermöglichen.

AWS Lambda

Kern. Die Lösung verwendet Lambda-Funktionen für:

* Unterstützung der REST- und WebSocket API-Endpunkte * Verwaltung der Kernlogik jedes Anwendungsfall-Orchestrators * Implementierung benutzerdefinierter Ressourcen während der Bereitstellung CloudFormation

Amazon S3

Kern. Amazon S3 hostet die statischen Webinhalte.

Amazon CloudWatch

Unterstützend. Diese Lösung veröffentlicht Protokolle aus Lösungsressourcen in CloudWatch Logs und veröffentlicht Metriken in CloudWatch Metriken. Die Lösung erstellt auch ein CloudWatch Dashboard zur Anzeige dieser Daten.

AWS Systems Manager

Unterstützend. Systems Manager bietet Ressourcenüberwachung und Visualisierung von Ressourcenoperationen und Kostendaten auf Anwendungsebene. Wird auch zum Speichern von Konfigurationsdaten im Parameter Store verwendet.

AWS WAF

Unterstützend. AWS WAF wird vor der API Gateway Gateway-Bereitstellung bereitgestellt, um diese zu schützen.

Amazon Bedrock

Optional. Die Lösung nutzt Amazon Bedrock für den Zugriff auf grundlegende oder maßgeschneiderte Modelle, Amazon Bedrock Agents und Amazon Bedrock Knowledge Bases. Amazon Bedrock ist die empfohlene Integration, um zu verhindern, dass Ihre Daten das AWS-Netzwerk verlassen.

Amazon Bedrock AgentCore

Optional Die Lösung nutzt Amazon Bedrock, AgentCore um MCP-Serververbindungen sowie Agent Builder- und Workflow-Anwendungsfälle auszuführen und zu unterstützen.

Amazon Elastic Container Registry (Amazon ECR)

Optional. Bei Agent Builder-Bereitstellungen speichert und verteilt ECR Agenten-Container-Images. Die Lösung verwendet den ECR Pull-Through Cache, um automatisch vorgefertigte Agenten-Images aus dem öffentlichen ECR-Repository des GAAB-Teams abzurufen.

AWS-Distribution für OpenTelemetry (ADOT)

Optional. Für Agent Builder-Bereitstellungen bietet ADOT eine automatische Instrumentierung für die Beobachtbarkeit der Agenten und ermöglicht so eine verteilte Ablaufverfolgung und strukturierte Protokollierung für Agentenoperationen.

Amazon Kendra

Optional. Im Text-Anwendungsfall können Admin-Benutzer optional entscheiden, einen Amazon Kendra Kendra-Index zu verbinden, um ihn als Wissensdatenbank für die Konversation mit dem LLM zu verwenden. Dies kann verwendet werden, um neue Informationen in das LLM einzufügen, sodass es diese Informationen in seinen Antworten verwenden kann.

Amazon SageMaker KI

Optional. Die Lösung kann in einen Amazon SageMaker AI-Inferenzendpunkt integriert werden FMs , um darauf zuzugreifen, die in Ihrem AWS-Konto und Ihrer Region gehostet werden. Sie ist eine bevorzugte Integration, um zu verhindern, dass Ihre Daten das AWS-Netzwerk verlassen.

Anmerkung

Sie müssen die Lösung in derselben Region bereitstellen, in der der Inferenzendpunkt verfügbar ist.

Amazon Virtual Private Cloud

Optional. Die Lösung bietet die Möglichkeit, Komponenten mit einer VPC-fähigen Konfiguration bereitzustellen. Bei der Bereitstellung der Lösung mit einer VPC-fähigen Konfiguration haben Sie die Möglichkeit, die Lösung eine VPC für Sie erstellen zu lassen oder eine bestehende VPC zu verwenden, die in demselben Konto und derselben Region vorhanden ist, in der die Lösung bereitgestellt wird (Bring Your Own VPC). Wenn die Lösung die VPC erstellt, erstellt sie die erforderlichen Netzwerkkomponenten, darunter Subnetze, Sicherheitsgruppen und deren Regeln, Routing-Tabellen, Netzwerk, NAT-Gateways ACLs, Internet-Gateways, VPC-Endpunkte und deren Richtlinien.