Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris. # Kembangkan asisten berbasis obrolan otomatis sepenuhnya dengan menggunakan agen dan basis pengetahuan Amazon Bedrock *Jundong Qiao, Shuai Cao, Noah Hamilton, Kiowa Jackson, Praveen Kumar Jeyarajan, dan Kara Yang, Amazon Web Services* ## Ringkasan Banyak organisasi menghadapi tantangan saat membuat asisten berbasis obrolan yang mampu mengatur beragam sumber data untuk menawarkan jawaban yang komprehensif. Pola ini menyajikan solusi untuk mengembangkan asisten berbasis obrolan yang mampu menjawab pertanyaan dari dokumentasi dan database, dengan penerapan langsung. Dimulai dengan [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html), layanan kecerdasan buatan generatif (AI) generatif yang dikelola sepenuhnya ini menyediakan beragam model pondasi canggih ()FMs. Ini memfasilitasi pembuatan aplikasi AI generatif yang efisien dengan fokus yang kuat pada privasi dan keamanan. Dalam konteks pengambilan dokumentasi, [Retrieval Augmented Generation (RAG)](https://docs.aws.amazon.com/sagemaker/latest/dg/jumpstart-foundation-models-customize-rag.html) adalah fitur penting. Ini menggunakan [basis pengetahuan](https://docs.aws.amazon.com/bedrock/latest/userguide/knowledge-base.html) untuk menambah permintaan FM dengan informasi yang relevan secara kontekstual dari sumber eksternal. Indeks [Amazon OpenSearch Tanpa Server](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/serverless-overview.html) berfungsi sebagai basis data vektor di belakang basis pengetahuan untuk Amazon Bedrock. Integrasi ini ditingkatkan melalui rekayasa cepat yang cermat untuk meminimalkan ketidakakuratan dan memastikan bahwa tanggapan tertanam dalam dokumentasi faktual. Untuk kueri database, Amazon Bedrock mengubah pertanyaan tekstual menjadi kueri SQL terstruktur, menggabungkan parameter tertentu. FMs [Hal ini memungkinkan pengambilan data yang tepat dari database yang dikelola oleh AWS Glue database.](https://docs.aws.amazon.com/glue/latest/dg/define-database.html) [Amazon Athena](https://docs.aws.amazon.com/athena/latest/ug/what-is.html) digunakan untuk pertanyaan ini. Untuk menangani pertanyaan yang lebih rumit, mencapai jawaban yang komprehensif menuntut informasi yang bersumber dari dokumentasi dan database. [Agen untuk Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/agents.html) adalah fitur AI generatif yang membantu Anda membangun agen otonom yang dapat memahami tugas kompleks dan memecahnya menjadi tugas yang lebih sederhana untuk orkestrasi. Kombinasi wawasan yang diambil dari tugas yang disederhanakan, difasilitasi oleh agen otonom Amazon Bedrock, meningkatkan sintesis informasi, yang mengarah ke jawaban yang lebih menyeluruh dan lengkap. Pola ini menunjukkan cara membangun asisten berbasis obrolan dengan menggunakan Amazon Bedrock dan layanan serta fitur AI generatif terkait dalam solusi otomatis. ## Prasyarat dan batasan **Prasyarat** + Aktif Akun AWS + [Docker, diinstal](https://docs.docker.com/engine/install/) + AWS Cloud Development Kit (AWS CDK), [diinstal](https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_tools) dan [di-bootstrap ke](https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html#getting_started_bootstrap) atau `us-east-1` `us-west-2` Wilayah AWS + AWS CDK [Toolkit versi 2.114.1 atau yang lebih baru, diinstal](https://docs.aws.amazon.com/cdk/v2/guide/cli.html) + AWS Command Line Interface (AWS CLI), [diinstal](https://docs.aws.amazon.com/cli/latest/userguide/getting-started-install.html) dan [dikonfigurasi](https://docs.aws.amazon.com/cli/latest/userguide/cli-chap-configure.html) + [Python versi 3.11 atau yang lebih baru, diinstal](https://www.python.org/downloads/) + Di Amazon Bedrock, [aktifkan akses](https://docs.aws.amazon.com/bedrock/latest/userguide/model-access.html) ke Claude 2, Claude 2.1, Claude Instant, dan Titan Embeddings G1 — Teks **Batasan** + Solusi ini diterapkan ke satu Akun AWS. + Solusi ini hanya dapat digunakan di Wilayah AWS tempat Amazon Bedrock dan Amazon Tanpa OpenSearch Server didukung. Untuk informasi selengkapnya, lihat dokumentasi untuk [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/bedrock-regions.html) dan [Amazon Tanpa OpenSearch Server](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/serverless-overview.html#serverless-regions). **Versi produk** + LLAMA-index versi 0.10.6 atau yang lebih baru + Sqlalchemy versi 2.0.23 atau yang lebih baru + OpenSearch-PY versi 2.4.2 atau yang lebih baru + Requests\$1AWS4Auth versi 1.2.3 atau yang lebih baru + AWS SDK untuk Python (Boto3) versi 1.34.57 atau yang lebih baru ## Arsitektur **Tumpukan teknologi target** [AWS Cloud Development Kit (AWS CDK)](https://docs.aws.amazon.com/cdk/v2/guide/home.html)Ini adalah kerangka pengembangan perangkat lunak open source untuk mendefinisikan infrastruktur cloud dalam kode dan menyediakannya. AWS CloudFormation AWS CDK Tumpukan yang digunakan dalam pola ini menyebarkan AWS sumber daya berikut:  + AWS Key Management Service (AWS KMS) + Amazon Simple Storage Service (Amazon S3) + AWS Glue Data Catalog, untuk komponen AWS Glue database + AWS Lambda + AWS Identity and Access Management (IAM) + Amazon Tanpa OpenSearch Server + Amazon Elastic Container Registry (Amazon ECR)  + Amazon Elastic Container Service (Amazon ECS) + AWS Fargate + Amazon Virtual Private Cloud (Amazon VPC) + [Penyeimbang Beban Aplikasi](https://docs.aws.amazon.com/elasticloadbalancing/latest/application/introduction.html) **Arsitektur target** ![\[Diagram arsitektur menggunakan basis pengetahuan dan agen Amazon Bedrock\]](http://docs.aws.amazon.com/id_id/prescriptive-guidance/latest/patterns/images/pattern-img/15372718-3a5d-4918-9cfa-422c455f288d/images/ff19152e-0bb6-4758-a6dd-4f6140e55113.png) Diagram menunjukkan penyiapan AWS cloud-native yang komprehensif dalam satu Wilayah AWS, menggunakan beberapa. Layanan AWS Antarmuka utama untuk asisten berbasis obrolan adalah aplikasi [Streamlit](https://docs.streamlit.io/) yang dihosting di cluster Amazon ECS. [Application Load Balancer](https://aws.amazon.com/elasticloadbalancing/application-load-balancer/) mengelola aksesibilitas. Kueri yang dibuat melalui antarmuka ini mengaktifkan fungsi `Invocation` Lambda, yang kemudian berinteraksi dengan agen untuk Amazon Bedrock. Agen ini menanggapi pertanyaan pengguna dengan berkonsultasi dengan basis pengetahuan untuk Amazon Bedrock atau dengan menjalankan fungsi Lambda. `Agent executor` Fungsi ini memicu serangkaian tindakan yang terkait dengan agen, mengikuti skema API yang telah ditentukan sebelumnya. Basis pengetahuan untuk Amazon Bedrock menggunakan indeks OpenSearch Tanpa Server sebagai fondasi basis data vektor mereka. Selain itu, `Agent executor` fungsi menghasilkan kueri SQL yang dijalankan terhadap AWS Glue database melalui Amazon Athena. ## Alat **Layanan AWS** + [Amazon Athena](https://docs.aws.amazon.com/athena/latest/ug/what-is.html) adalah layanan kueri interaktif yang membantu Anda menganalisis data secara langsung di Amazon Simple Storage Service (Amazon S3) dengan menggunakan SQL standar. + [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html) adalah layanan yang dikelola sepenuhnya yang membuat model foundation berkinerja tinggi (FMs) dari startup AI terkemuka dan Amazon tersedia untuk Anda gunakan melalui API terpadu. + [AWS Cloud Development Kit (AWS CDK)](https://docs.aws.amazon.com/cdk/latest/guide/home.html)adalah kerangka pengembangan perangkat lunak yang membantu Anda menentukan dan menyediakan infrastruktur AWS Cloud dalam kode. + [AWS Command Line Interface (AWS CLI)](https://docs.aws.amazon.com/cli/latest/userguide/cli-chap-welcome.html) adalah alat open source yang membantu Anda berinteraksi Layanan AWS melalui perintah di shell baris perintah Anda. + [Amazon Elastic Container Service (Amazon ECS](https://docs.aws.amazon.com/AmazonECS/latest/developerguide/Welcome.html)) adalah layanan manajemen kontainer yang cepat dan dapat diskalakan yang membantu Anda menjalankan, menghentikan, dan mengelola kontainer di klaster. + [Elastic Load Balancing](https://docs.aws.amazon.com/elasticloadbalancing/latest/userguide/what-is-load-balancing.html) mendistribusikan lalu lintas aplikasi atau jaringan yang masuk ke beberapa target. Misalnya, Anda dapat mendistribusikan lalu lintas di seluruh instans, container, dan alamat IP Amazon Elastic Compute Cloud (Amazon EC2) di satu atau beberapa Availability Zone. + [AWS Glue](https://docs.aws.amazon.com/glue/)adalah layanan ekstrak, transformasi, dan beban (ETL) yang dikelola sepenuhnya. Ini membantu Anda mengkategorikan, membersihkan, memperkaya, dan memindahkan data dengan andal antara penyimpanan data dan aliran data. Pola ini menggunakan AWS Glue crawler dan AWS Glue Data Catalog tabel. + [AWS Lambda](https://docs.aws.amazon.com/lambda/latest/dg/welcome.html)adalah layanan komputasi yang membantu Anda menjalankan kode tanpa perlu menyediakan atau mengelola server. Ini menjalankan kode Anda hanya bila diperlukan dan skala secara otomatis, jadi Anda hanya membayar untuk waktu komputasi yang Anda gunakan. + [Amazon OpenSearch Serverless](https://docs.aws.amazon.com/opensearch-service/latest/developerguide/serverless-overview.html) adalah konfigurasi tanpa server sesuai permintaan untuk Amazon Service. OpenSearch Dalam pola ini, indeks OpenSearch Tanpa Server berfungsi sebagai database vektor untuk basis pengetahuan untuk Amazon Bedrock. + [Amazon Simple Storage Service (Amazon S3](https://docs.aws.amazon.com/AmazonS3/latest/userguide/Welcome.html)) adalah layanan penyimpanan objek berbasis cloud yang membantu Anda menyimpan, melindungi, dan mengambil sejumlah data. **Alat-alat lainnya** + [Streamlit](https://docs.streamlit.io/) adalah kerangka Python open source untuk membuat aplikasi data. **Repositori kode** Kode untuk pola ini tersedia di GitHub [genai-bedrock-agent-chatbot](https://github.com/awslabs/genai-bedrock-agent-chatbot/)repositori. Repositori kode berisi file dan folder berikut: + `assets`folder — Aset statis, seperti diagram arsitektur dan dataset publik. + `code/lambdas/action-lambda`folder — Kode Python untuk fungsi Lambda yang bertindak sebagai tindakan untuk agen Amazon Bedrock. + `code/lambdas/create-index-lambda`folder — Kode Python untuk fungsi Lambda yang menciptakan indeks Tanpa Server. OpenSearch + `code/lambdas/invoke-lambda`folder — Kode Python untuk fungsi Lambda yang memanggil agen Amazon Bedrock, yang dipanggil langsung dari aplikasi Streamlit. + `code/lambdas/update-lambda`folder — Kode Python untuk fungsi Lambda yang memperbarui atau menghapus sumber daya setelah sumber daya digunakan melalui file. AWS AWS CDK + `code/layers/boto3_layer`folder — AWS CDK Tumpukan yang membuat lapisan Boto3 yang dibagikan di semua fungsi Lambda. + `code/layers/opensearch_layer`folder — AWS CDK Tumpukan yang membuat lapisan OpenSearch Tanpa Server yang menginstal semua dependensi untuk membuat indeks. + `code/streamlit-app`folder - Kode Python yang dijalankan sebagai gambar kontainer di Amazon ECS. + `code/code_stack.py`— AWS CDK Membangun file Python yang AWS membuat sumber daya. + `app.py`— AWS CDK Tumpukan file Python yang menyebarkan AWS sumber daya di akun target. AWS + `requirements.txt`— Daftar semua dependensi Python yang harus diinstal untuk. AWS CDK + `cdk.json`— File input untuk memberikan nilai-nilai yang diperlukan untuk membuat sumber daya. Juga, di `context/config` bidang, Anda dapat menyesuaikan solusi yang sesuai. Untuk informasi selengkapnya tentang penyesuaian, lihat bagian [Informasi tambahan](#develop-a-fully-automated-chat-based-assistant-by-using-amazon-bedrock-agents-and-knowledge-bases-additional). ## Praktik terbaik + Contoh kode yang diberikan di sini adalah untuk proof-of-concept (PoC) atau tujuan percontohan saja. Jika Anda ingin membawa kode ke produksi, pastikan untuk menggunakan praktik terbaik berikut: + Aktifkan [pencatatan akses Amazon S3](https://docs.aws.amazon.com/AmazonS3/latest/userguide/enable-server-access-logging.html) + Aktifkan [Log Aliran VPC](https://docs.aws.amazon.com/vpc/latest/userguide/flow-logs.html) + Siapkan pemantauan dan peringatan untuk fungsi Lambda. Untuk informasi selengkapnya, lihat [Memantau dan memecahkan masalah fungsi Lambda](https://docs.aws.amazon.com/lambda/latest/dg/lambda-monitoring.html). Untuk praktik terbaik, lihat [Praktik terbaik untuk bekerja dengan AWS Lambda fungsi](https://docs.aws.amazon.com/lambda/latest/dg/best-practices.html). ## Epik ### Siapkan AWS kredensional di workstation lokal Anda | Tugas | Deskripsi | Keterampilan yang dibutuhkan | | --- | --- | --- | | Variabel ekspor untuk akun dan Wilayah. | Untuk memberikan AWS kredensi untuk variabel lingkungan AWS CDK dengan menggunakan, jalankan perintah berikut.
export CDK_DEFAULT_ACCOUNT=<12-digit AWS account number>
export CDK_DEFAULT_REGION=
| AWS DevOps, DevOps insinyur | | Siapkan profil AWS CLI bernama. | Untuk mengatur profil AWS CLI bernama untuk akun, ikuti petunjuk di [Pengaturan file konfigurasi dan kredensi](https://docs.aws.amazon.com/cli/latest/userguide/cli-configure-files.html). | AWS DevOps, DevOps insinyur | ### Siapkan lingkungan Anda | Tugas | Deskripsi | Keterampilan yang dibutuhkan | | --- | --- | --- | | Kloning repo ke workstation lokal Anda. | Untuk mengkloning repositori, jalankan perintah berikut di terminal Anda.
git clone https://github.com/awslabs/genai-bedrock-agent-chatbot.git
| DevOps insinyur, AWS DevOps | | Siapkan lingkungan virtual Python. | Untuk mengatur lingkungan virtual Python, jalankan perintah berikut.
cd genai-bedrock-agent-chatbot
python3 -m venv .venv
source .venv/bin/activate
Untuk mengatur dependensi yang diperlukan, jalankan perintah berikut.
pip3 install -r requirements.txt
| DevOps insinyur, AWS DevOps | | Mengatur AWS CDK lingkungan. | Untuk mengonversi kode menjadi AWS CloudFormation templat, jalankan perintah`cdk synth`. | AWS DevOps, DevOps insinyur | ### Konfigurasikan dan terapkan aplikasi | Tugas | Deskripsi | Keterampilan yang dibutuhkan | | --- | --- | --- | | Menyebarkan sumber daya di akun. | Untuk menyebarkan sumber daya di Akun AWS dengan menggunakan AWS CDK, lakukan hal berikut:[\[See the AWS documentation website for more details\]](http://docs.aws.amazon.com/id_id/prescriptive-guidance/latest/patterns/develop-a-fully-automated-chat-based-assistant-by-using-amazon-bedrock-agents-and-knowledge-bases.html)Setelah penerapan berhasil, Anda dapat mengakses aplikasi asisten berbasis obrolan dengan menggunakan URL yang disediakan pada tab **Output** di konsol. CloudFormation | DevOps insinyur, AWS DevOps | ### Bersihkan semua AWS sumber daya dalam solusi | Tugas | Deskripsi | Keterampilan yang dibutuhkan | | --- | --- | --- | | Hapus AWS sumber daya. | Setelah Anda menguji solusinya, untuk membersihkan sumber daya, jalankan perintah`cdk destroy`. | AWS DevOps, DevOps insinyur | ## Sumber daya terkait **AWS dokumentasi** + Sumber daya Amazon Bedrock: + [Akses model](https://docs.aws.amazon.com/bedrock/latest/userguide/model-access.html) + [Parameter inferensi untuk model pondasi](https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters.html) + [Agen untuk Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/agents.html) + [Basis pengetahuan untuk Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/knowledge-base.html) + [Membangun fungsi Lambda dengan Python](https://docs.aws.amazon.com/lambda/latest/dg/lambda-python.html) + AWS CDK sumber daya: + [Memulai dengan AWS CDK](https://docs.aws.amazon.com/cdk/v2/guide/getting_started.html) + [Memecahkan masalah umum AWS CDK](https://docs.aws.amazon.com/cdk/v2/guide/troubleshooting.html) + [Bekerja dengan AWS CDK in Python](https://docs.aws.amazon.com/cdk/v2/guide/work-with-cdk-python.html) + [Pembuat Aplikasi AI Generatif di AWS](https://docs.aws.amazon.com/solutions/latest/generative-ai-application-builder-on-aws/solution-overview.html) ** AWS Sumber daya lainnya** + [Mesin Vektor untuk Amazon Tanpa OpenSearch Server](https://aws.amazon.com/opensearch-service/serverless-vector-engine/) **Sumber daya lainnya** + [LlamaIndex dokumentasi](https://docs.llamaindex.ai/en/stable/) + [Dokumentasi Streamlit](https://docs.streamlit.io/) ## Informasi tambahan **Sesuaikan asisten berbasis obrolan dengan data Anda sendiri** Untuk mengintegrasikan data kustom Anda untuk menerapkan solusi, ikuti panduan terstruktur ini. Langkah-langkah ini dirancang untuk memastikan proses integrasi yang mulus dan efisien, memungkinkan Anda untuk menerapkan solusi secara efektif dengan data yang dipesan lebih dahulu. *Untuk integrasi data basis pengetahuan* **Persiapan data** 1. Temukan `assets/knowledgebase_data_source/` direktori. 1. Tempatkan dataset Anda di dalam folder ini. **Penyesuaian konfigurasi** 1. Buka file `cdk.json`. 1. Arahkan ke `context/configure/paths/knowledgebase_file_name` bidang, lalu perbarui sesuai dengan itu. 1. Arahkan ke `bedrock_instructions/knowledgebase_instruction` bidang, lalu perbarui untuk secara akurat mencerminkan nuansa dan konteks kumpulan data baru Anda. *Untuk integrasi data struktural* **Organisasi data** 1. Di dalam `assets/data_query_data_source/` direktori, buat subdirektori, seperti`tabular_data`. 1. Masukkan kumpulan data terstruktur Anda (format yang dapat diterima termasuk CSV, JSON, ORC, dan Parket) ke dalam subfolder yang baru dibuat ini. 1. Jika Anda terhubung ke database yang ada, perbarui fungsi `create_sql_engine()` `code/lambda/action-lambda/build_query_engine.py` untuk terhubung ke database Anda. **Pembaruan konfigurasi dan kode** 1. Dalam `cdk.json` file, perbarui `context/configure/paths/athena_table_data_prefix` bidang untuk menyelaraskan dengan jalur data baru. 1. Merevisi `code/lambda/action-lambda/dynamic_examples.csv` dengan memasukkan text-to-SQL contoh baru yang sesuai dengan dataset Anda. 1. Merevisi `code/lambda/action-lambda/prompt_templates.py` untuk mencerminkan atribut kumpulan data terstruktur Anda. 1. Dalam `cdk.json` file, perbarui `context/configure/bedrock_instructions/action_group_description` bidang untuk menjelaskan tujuan dan fungsionalitas fungsi `Action group` Lambda. 1. Dalam `assets/agent_api_schema/artifacts_schema.json` file, jelaskan fungsionalitas baru fungsi `Action group` Lambda Anda. *Pembaruan umum* Dalam `cdk.json` file, di `context/configure/bedrock_instructions/agent_instruction` bagian ini, berikan deskripsi komprehensif tentang fungsionalitas dan tujuan desain agen Amazon Bedrock yang dimaksudkan, dengan mempertimbangkan data yang baru terintegrasi.