Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich. # Entwickeln Sie mithilfe von Amazon Bedrock-Agenten und Wissensdatenbanken einen vollautomatischen Chat-basierten Assistenten *Jundong Qiao, Shuai Cao, Noah Hamilton, Kiowa Jackson, Praveen Kumar Jeyarajan und Kara Yang, Amazon Web Services* ## Zusammenfassung Viele Unternehmen stehen vor Herausforderungen, wenn es darum geht, einen chatbasierten Assistenten zu entwickeln, der in der Lage ist, verschiedene Datenquellen zu orchestrieren, um umfassende Antworten zu bieten. Dieses Muster bietet eine Lösung für die Entwicklung eines Chat-basierten Assistenten, der Anfragen sowohl aus der Dokumentation als auch aus Datenbanken beantworten kann, und das bei einer einfachen Bereitstellung. Beginnend mit [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html) bietet dieser vollständig verwaltete Service für generative künstliche Intelligenz (KI) eine breite Palette fortschrittlicher Basismodelle (FMs). Dies erleichtert die effiziente Erstellung generativer KI-Anwendungen mit einem starken Fokus auf Datenschutz und Sicherheit. Im Zusammenhang mit dem Abruf von Dokumenten ist die [Retrieval Augmented Generation (RAG)](https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models-customize-rag.html) ein zentrales Merkmal. Es verwendet [Wissensdatenbanken](https://docs.aws.amazon.com/bedrock/latest/userguide/knowledge-base.html), um FM-Eingabeaufforderungen um kontextrelevante Informationen aus externen Quellen zu erweitern. Ein [Amazon OpenSearch Serverless-Index](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/serverless-overview.html) dient als Vektordatenbank hinter den Wissensdatenbanken für Amazon Bedrock. Diese Integration wird durch sorgfältiges, zeitnahes Engineering verbessert, um Ungenauigkeiten zu minimieren und sicherzustellen, dass die Antworten in einer sachlichen Dokumentation verankert sind. Für Datenbankabfragen transformieren Amazon Bedrock Textanfragen in strukturierte SQL-Abfragen, die spezifische Parameter enthalten. FMs [Dies ermöglicht den präzisen Abruf von Daten aus Datenbanken, die von Datenbanken verwaltet werden.AWS Glue](https://docs.aws.amazon.com/glue/latest/dg/define-database.html) [Amazon Athena](https://docs.aws.amazon.com/athena/latest/ug/what-is.html) wird für diese Abfragen verwendet. Um kompliziertere Anfragen zu bearbeiten und umfassende Antworten zu erhalten, sind Informationen erforderlich, die sowohl aus der Dokumentation als auch aus Datenbanken stammen. [Agents for Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/agents.html) ist eine generative KI-Funktion, mit der Sie autonome Agenten erstellen können, die komplexe Aufgaben verstehen und sie für die Orchestrierung in einfachere Aufgaben aufteilen können. Die Kombination der Erkenntnisse aus den vereinfachten Aufgaben, die durch die autonomen Agenten von Amazon Bedrock unterstützt werden, verbessert die Informationssynthese und führt zu gründlicheren und umfassenderen Antworten. Dieses Muster zeigt, wie Sie mithilfe von Amazon Bedrock und den zugehörigen generativen KI-Diensten und -Funktionen innerhalb einer automatisierten Lösung einen chatbasierten Assistenten erstellen können. ## Voraussetzungen und Einschränkungen **Voraussetzungen** + Ein aktiver AWS-Konto + [Docker, installiert](https://docs.docker.com/engine/install/) + AWS Cloud Development Kit (AWS CDK), [installiert](https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_tools) und per [Bootstrapping auf oder](https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_bootstrap) `us-east-1` `us-west-2` AWS-Regionen + AWS CDK [Toolkit-Version 2.114.1 oder höher, installiert](https://docs.aws.amazon.com/cdk/v2/guide/cli.html) + AWS Command Line Interface [https://docs.aws.amazon.com/cli/latest/userguide/getting-started-install.html](https://docs.aws.amazon.com/cli/latest/userguide/getting-started-install.html) + [Python Version 3.11 oder höher, installiert](https://www.python.org/downloads/) + [Aktivieren Sie in Amazon Bedrock den Zugriff auf](https://docs.aws.amazon.com/bedrock/latest/userguide/model-access.html) Claude 2, Claude 2.1, Claude Instant und Titan Embeddings G1 — Text **Einschränkungen** + Diese Lösung wird in einer einzigen Lösung bereitgestellt. AWS-Konto + Diese Lösung kann nur dort eingesetzt werden AWS-Regionen , wo Amazon Bedrock und Amazon OpenSearch Serverless unterstützt werden. Weitere Informationen finden Sie in der Dokumentation für [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/bedrock-regions.html) und [Amazon OpenSearch Serverless](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/serverless-overview.html#serverless-regions). **Produktversionen** + LLAMA-Index Version 0.10.6 oder höher + Sqlalchemy Version 2.0.23 oder höher + OpenSearch-PY Version 2.4.2 oder höher + Requests\$1AWS4Auth Version 1.2.3 oder höher + AWS SDK für Python (Boto3) Version 1.34.57 oder höher ## Architektur **Zieltechnologie-Stack** Das [AWS Cloud Development Kit (AWS CDK)](https://docs.aws.amazon.com/cdk/v2/guide/home.html)ist ein Open-Source-Framework für die Softwareentwicklung, mit dem Cloud-Infrastruktur im Code definiert und bereitgestellt werden kann. AWS CloudFormation Der in diesem Muster verwendete AWS CDK Stack stellt die folgenden AWS Ressourcen bereit:  + AWS Key Management Service (AWS KMS) + Amazon Simple Storage Service (Amazon-S3) + AWS Glue Data Catalog, für die AWS Glue Datenbankkomponente + AWS Lambda + AWS Identity and Access Management (ICH BIN) + Amazon OpenSearch Serverlos + Amazon Elastic Container Registry (Amazon ECR)  + Amazon Elastic Container Service (Amazon ECS) + AWS Fargate + Amazon Virtual Private Cloud (Amazon VPC) + [Application Load Balancer](https://docs.aws.amazon.com/elasticloadbalancing/latest/application/introduction.html) **Zielarchitektur** ![\[Architekturdiagramm mit einer Amazon Bedrock-Wissensdatenbank und einem Agenten\]](http://docs.aws.amazon.com/de_de/prescriptive-guidance/latest/patterns/images/pattern-img/15372718-3a5d-4918-9cfa-422c455f288d/images/ff19152e-0bb6-4758-a6dd-4f6140e55113.png) Das Diagramm zeigt ein umfassendes AWS cloudnatives Setup in einem einzigen System AWS-Region, wobei mehrere verwendet werden. AWS-Services Die primäre Schnittstelle für den Chat-basierten Assistenten ist eine [Streamlit-Anwendung](https://docs.streamlit.io/), die auf einem Amazon ECS-Cluster gehostet wird. Ein [Application Load Balancer](https://aws.amazon.com/elasticloadbalancing/application-load-balancer/) verwaltet die Barrierefreiheit. Über diese Schnittstelle gestellte Abfragen aktivieren die `Invocation` Lambda-Funktion, die dann eine Schnittstelle zu Agenten für Amazon Bedrock herstellt. Dieser Agent beantwortet Benutzeranfragen, indem er entweder die Wissensdatenbanken für Amazon Bedrock konsultiert oder eine `Agent executor` Lambda-Funktion aufruft. Diese Funktion löst nach einem vordefinierten API-Schema eine Reihe von Aktionen aus, die dem Agenten zugeordnet sind. Die Wissensdatenbanken für Amazon Bedrock verwenden einen OpenSearch serverlosen Index als Grundlage für ihre Vektordatenbank. Darüber hinaus generiert die `Agent executor` Funktion SQL-Abfragen, die über Amazon Athena für die AWS Glue Datenbank ausgeführt werden. ## Tools **AWS-Services** + [Amazon Athena](https://docs.aws.amazon.com/athena/latest/ug/what-is.html) ist ein interaktiver Abfrageservice, mit dem Sie Daten mithilfe von Standard-SQL direkt in Amazon Simple Storage Service (Amazon S3) analysieren können. + [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html) ist ein vollständig verwalteter Service, der Ihnen leistungsstarke Basismodelle (FMs) von führenden KI-Startups und Amazon über eine einheitliche API zur Verfügung stellt. + [AWS Cloud Development Kit (AWS CDK)](https://docs.aws.amazon.com/cdk/latest/guide/home.html)ist ein Softwareentwicklungs-Framework, das Ihnen hilft, AWS Cloud-Infrastruktur im Code zu definieren und bereitzustellen. + [AWS Command Line Interface (AWS CLI)](https://docs.aws.amazon.com/cli/latest/userguide/cli-chap-welcome.html) ist ein Open-Source-Tool, mit dem Sie AWS-Services über Befehle in Ihrer Befehlszeilen-Shell interagieren können. + [Amazon Elastic Container Service (Amazon ECS)](https://docs.aws.amazon.com/AmazonECS/latest/developerguide/Welcome.html) ist ein hoch skalierbarer, schneller Container-Management-Service, der das Ausführen, Beenden und Verwalten von Containern in einem Cluster vereinfacht. + [Elastic Load Balancing](https://docs.aws.amazon.com/elasticloadbalancing/latest/userguide/what-is-load-balancing.html) verteilt den eingehenden Anwendungs- oder Netzwerkverkehr auf mehrere Ziele. Sie können beispielsweise den Datenverkehr auf Amazon Elastic Compute Cloud (Amazon EC2) -Instances, Container und IP-Adressen in einer oder mehreren Availability Zones verteilen. + [AWS Glue](https://docs.aws.amazon.com/glue/)ist ein vollständig verwalteter ETL-Service (Extrahieren, Transformieren und Laden). Er hilft Ihnen dabei, Daten zuverlässig zu kategorisieren, zu bereinigen, anzureichern und zwischen Datenspeichern und Datenströmen zu verschieben. Dieses Muster verwendet einen AWS Glue Crawler und eine AWS Glue Data Catalog Tabelle. + [AWS Lambda](https://docs.aws.amazon.com/lambda/latest/dg/welcome.html) ist ein Datenverarbeitungsservice, mit dem Sie Code ausführen können, ohne dass Sie Server bereitstellen oder verwalten müssen. Es führt Ihren Code nur bei Bedarf aus und skaliert automatisch, sodass Sie nur für die tatsächlich genutzte Rechenzeit zahlen. + [Amazon OpenSearch Serverless](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/serverless-overview.html) ist eine serverlose On-Demand-Konfiguration für Amazon OpenSearch Service. In diesem Muster dient ein OpenSearch serverloser Index als Vektordatenbank für die Wissensdatenbanken für Amazon Bedrock. + [Amazon Simple Storage Service (Amazon S3)](https://docs.aws.amazon.com/AmazonS3/latest/userguide/Welcome.html) ist ein cloudbasierter Objektspeicherservice, der Sie beim Speichern, Schützen und Abrufen beliebiger Datenmengen unterstützt. **Andere Tools** + [Streamlit](https://docs.streamlit.io/) ist ein Open-Source-Python-Framework zur Erstellung von Datenanwendungen. **Code-Repository** Der Code für dieses Muster ist im GitHub [genai-bedrock-agent-chatbot](https://github.com/awslabs/genai-bedrock-agent-chatbot/)Repository verfügbar. Das Code-Repository enthält die folgenden Dateien und Ordner: + `assets`Ordner — Die statischen Elemente, wie das Architekturdiagramm und der öffentliche Datensatz. + `code/lambdas/action-lambda`folder — Der Python-Code für die Lambda-Funktion, die als Aktion für den Amazon Bedrock-Agenten fungiert. + `code/lambdas/create-index-lambda`folder — Der Python-Code für die Lambda-Funktion, die den OpenSearch Serverless-Index erstellt. + `code/lambdas/invoke-lambda`folder — Der Python-Code für die Lambda-Funktion, die den Amazon Bedrock-Agenten aufruft, der direkt aus der Streamlit-Anwendung aufgerufen wird. + `code/lambdas/update-lambda`folder — Der Python-Code für die Lambda-Funktion, die Ressourcen aktualisiert oder löscht, nachdem die AWS Ressourcen über die bereitgestellt wurden. AWS CDK + `code/layers/boto3_layer`folder — Der AWS CDK Stapel, der eine Boto3-Ebene erstellt, die von allen Lambda-Funktionen gemeinsam genutzt wird. + `code/layers/opensearch_layer`Ordner — Der AWS CDK Stack, der eine OpenSearch serverlose Schicht erstellt, die alle Abhängigkeiten installiert, um den Index zu erstellen. + `code/streamlit-app`folder — Der Python-Code, der als Container-Image in Amazon ECS ausgeführt wird. + `code/code_stack.py`— Das AWS CDK Konstrukt Python-Dateien, die AWS Ressourcen erstellen. + `app.py`— Die AWS CDK Stapel-Python-Dateien, die AWS Ressourcen im AWS Zielkonto bereitstellen. + `requirements.txt`— Die Liste aller Python-Abhängigkeiten, die für die installiert werden müssen AWS CDK. + `cdk.json`— Die Eingabedatei zur Bereitstellung der Werte, die zum Erstellen von Ressourcen erforderlich sind. Außerdem können Sie die Lösung in den `context/config` Feldern entsprechend anpassen. Weitere Informationen zur Anpassung finden Sie im Abschnitt [Zusätzliche Informationen](#develop-a-fully-automated-chat-based-assistant-by-using-amazon-bedrock-agents-and-knowledge-bases-additional). ## Best Practices + Das hier bereitgestellte Codebeispiel dient nur proof-of-concept (PoC) oder Pilotzwecken. Wenn Sie den Code für die Produktion verwenden möchten, sollten Sie unbedingt die folgenden bewährten Methoden anwenden: + [Amazon S3 S3-Zugriffsprotokollierung](https://docs.aws.amazon.com/AmazonS3/latest/userguide/enable-server-access-logging.html) aktivieren + [VPC-Flow-Logs](https://docs.aws.amazon.com/vpc/latest/userguide/flow-logs.html) aktivieren + Richten Sie die Überwachung und Warnung für die Lambda-Funktionen ein. Weitere Informationen finden Sie unter [Überwachung und Problembehandlung von Lambda-Funktionen](https://docs.aws.amazon.com/lambda/latest/dg/lambda-monitoring.html). Bewährte Methoden finden Sie unter [Bewährte Methoden für die Arbeit mit AWS Lambda Funktionen](https://docs.aws.amazon.com/lambda/latest/dg/best-practices.html). ## Epen ### Richten Sie AWS Anmeldeinformationen auf Ihrer lokalen Workstation ein | Aufgabe | Description | Erforderliche Fähigkeiten | | --- | --- | --- | | Exportieren Sie Variablen für das Konto und die Region. | Führen Sie die folgenden Befehle aus, um mithilfe AWS CDK von Umgebungsvariablen AWS Anmeldeinformationen für bereitzustellen.
export CDK_DEFAULT_ACCOUNT=<12-digit AWS account number>
export CDK_DEFAULT_REGION=
| AWS DevOps, DevOps Ingenieur | | Richten Sie das AWS CLI benannte Profil ein. | Folgen Sie den Anweisungen unter [Konfiguration und Einstellungen der Anmeldeinformationsdatei](https://docs.aws.amazon.com/cli/latest/userguide/cli-configure-files.html), um das AWS CLI benannte Profil für das Konto einzurichten. | AWS DevOps, DevOps Ingenieur | ### So richten Sie Ihre Umgebung ein | Aufgabe | Description | Erforderliche Fähigkeiten | | --- | --- | --- | | Klonen Sie das Repo auf Ihre lokale Workstation. | Um das Repository zu klonen, führen Sie den folgenden Befehl in Ihrem Terminal aus.
git clone https://github.com/awslabs/genai-bedrock-agent-chatbot.git
| DevOps Ingenieur, AWS DevOps | | Richten Sie die virtuelle Python-Umgebung ein. | Führen Sie die folgenden Befehle aus, um die virtuelle Python-Umgebung einzurichten.
cd genai-bedrock-agent-chatbot
python3 -m venv .venv
source .venv/bin/activate
Führen Sie den folgenden Befehl aus, um die erforderlichen Abhängigkeiten einzurichten.
pip3 install -r requirements.txt
| DevOps Ingenieur, AWS DevOps | | Richten Sie die AWS CDK Umgebung ein. | Führen Sie den Befehl aus, um den Code in eine AWS CloudFormation Vorlage zu konvertieren`cdk synth`. | AWS DevOps, DevOps Ingenieur | ### Konfiguration und Bereitstellung der Anwendung | Aufgabe | Description | Erforderliche Fähigkeiten | | --- | --- | --- | | Stellen Sie Ressourcen im Konto bereit. | Gehen Sie wie folgt vor AWS CDK, um Ressourcen im mithilfe AWS-Konto von bereitzustellen:[\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/de_de/prescriptive-guidance/latest/patterns/develop-a-fully-automated-chat-based-assistant-by-using-amazon-bedrock-agents-and-knowledge-bases.html)Nach erfolgreicher Bereitstellung können Sie über die URL auf der Registerkarte **Outputs** in der Konsole auf die Chat-basierte Assistentenanwendung zugreifen. CloudFormation | DevOps Ingenieur, AWS DevOps | ### Bereinigen Sie alle AWS Ressourcen in der Lösung | Aufgabe | Description | Erforderliche Fähigkeiten | | --- | --- | --- | | Entfernen Sie die AWS Ressourcen. | Nachdem Sie die Lösung getestet haben, führen Sie den Befehl aus, um die Ressourcen zu bereinigen`cdk destroy`. | AWS DevOps, DevOps Ingenieur | ## Zugehörige Ressourcen **AWS Dokumentation** + Ressourcen von Amazon Bedrock: + [Modellzugriff](https://docs.aws.amazon.com/bedrock/latest/userguide/model-access.html) + [Inferenzparameter für Fundamentmodelle](https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters.html) + [Agenten für Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/agents.html) + [Wissensdatenbanken für Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/knowledge-base.html) + [Lambda-Funktionen mit Python erstellen](https://docs.aws.amazon.com/lambda/latest/dg/lambda-python.html) + AWS CDK Ressourcen: + [Fangen Sie an mit dem AWS CDK](https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html) + [Behebung häufig auftretender AWS CDK Probleme](https://docs.aws.amazon.com/cdk/v2/guide/troubleshooting.html) + [Arbeiten mit dem AWS CDK in Python](https://docs.aws.amazon.com/cdk/v2/guide/work-with-cdk-python.html) + [Generativer KI-Anwendungsgenerator aktiviert AWS](https://docs.aws.amazon.com/solutions/latest/generative-ai-application-builder-on-aws/solution-overview.html) **Andere AWS Ressourcen** + [Vector Engine für Amazon OpenSearch Serverless](https://aws.amazon.com/opensearch-service/serverless-vector-engine/) **Sonstige Ressourcen** + [LlamaIndex Dokumentation](https://docs.llamaindex.ai/en/stable/) + [Rationalisierte Dokumentation](https://docs.streamlit.io/) ## Zusätzliche Informationen **Passen Sie den Chat-basierten Assistenten mit Ihren eigenen Daten an** Folgen Sie diesen strukturierten Richtlinien, um Ihre benutzerdefinierten Daten für die Bereitstellung der Lösung zu integrieren. Diese Schritte sollen einen nahtlosen und effizienten Integrationsprozess gewährleisten, sodass Sie die Lösung effektiv mit Ihren maßgeschneiderten Daten implementieren können. *Für die Datenintegration in der Wissensdatenbank* **Datenaufbereitung** 1. Suchen Sie das `assets/knowledgebase_data_source/` Verzeichnis. 1. Platzieren Sie Ihren Datensatz in diesem Ordner. **Anpassungen der Konfiguration** 1. Öffnen Sie die `cdk.json` Datei. 1. Navigieren Sie zu dem `context/configure/paths/knowledgebase_file_name` Feld und aktualisieren Sie es dann entsprechend. 1. Navigieren Sie zu dem `bedrock_instructions/knowledgebase_instruction` Feld, und aktualisieren Sie es dann, damit es die Nuancen und den Kontext Ihres neuen Datensatzes genau wiedergibt. *Für die Integration von Strukturdaten* **Organisation der Daten** 1. Erstellen Sie innerhalb des `assets/data_query_data_source/` Verzeichnisses ein Unterverzeichnis, z. B. `tabular_data` 1. Platzieren Sie Ihren strukturierten Datensatz (akzeptable Formate umfassen CSV, JSON, ORC und Parquet) in diesem neu erstellten Unterordner. 1. Wenn Sie eine Verbindung zu einer vorhandenen Datenbank herstellen, aktualisieren Sie die Funktion `create_sql_engine()` unter So stellen Sie eine Verbindung `code/lambda/action-lambda/build_query_engine.py` zu Ihrer Datenbank her. **Konfiguration und Code-Updates** 1. Aktualisieren Sie das `context/configure/paths/athena_table_data_prefix` Feld in der `cdk.json` Datei so, dass es dem neuen Datenpfad entspricht. 1. Überarbeiten Sie, `code/lambda/action-lambda/dynamic_examples.csv` indem Sie neue text-to-SQL Beispiele einbeziehen, die Ihrem Datensatz entsprechen. 1. Überarbeiten Sie`code/lambda/action-lambda/prompt_templates.py`, um die Attribute Ihres strukturierten Datensatzes widerzuspiegeln. 1. Aktualisieren Sie das `context/configure/bedrock_instructions/action_group_description` Feld in der `cdk.json` Datei, um den Zweck und die Funktionalität der `Action group` Lambda-Funktion zu erläutern. 1. Erläutern Sie in der `assets/agent_api_schema/artifacts_schema.json` Datei die neuen Funktionen Ihrer `Action group` Lambda-Funktion. *Allgemeines Update* Geben Sie in der `cdk.json` Datei im `context/configure/bedrock_instructions/agent_instruction` Abschnitt eine umfassende Beschreibung der beabsichtigten Funktionalität und des Entwurfszwecks des Amazon Bedrock-Agenten unter Berücksichtigung der neu integrierten Daten.