Detail arsitektur - Pembuat Aplikasi AI Generatif di AWS

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Detail arsitektur

Bagian ini menjelaskan komponen dan layanan AWS yang membentuk solusi ini dan detail arsitektur tentang cara komponen ini bekerja sama.

Layanan AWS dalam solusi ini

AWS service Deskripsi

Amazon API Gateway

Inti. Layanan ini menyediakan REST APIs untuk dasbor Deployment dan WebSocket API untuk kasus penggunaan.

AWS CloudFormation

Inti. Solusi ini didistribusikan sebagai CloudFormation templat, dan CloudFormation menyebarkan sumber daya AWS untuk solusinya.

Amazon CloudFront

Inti. CloudFront menyajikan konten web yang dihosting di Amazon S3.

Amazon Cognito

Inti. Layanan ini menangani manajemen pengguna dan otentikasi untuk API.

Amazon DynamoDB

Inti. DynamoDB menyimpan informasi penyebaran dan detail konfigurasi untuk dasbor Deployment. Ini menyimpan riwayat obrolan dan percakapan IDs dalam kasus penggunaan Teks untuk mengaktifkan riwayat percakapan dan disambiguasi kueri.

AWS Lambda

Inti. Solusinya menggunakan fungsi Lambda untuk:

* Kembali titik akhir REST dan WebSocket API * Menangani logika inti dari setiap orkestrator kasus penggunaan * Menerapkan sumber daya khusus selama penerapan CloudFormation

Amazon S3

Inti. Amazon S3 meng-host konten web statis.

Amazon CloudWatch

Mendukung. Solusi ini menerbitkan log dari sumber daya solusi ke CloudWatch Log, dan menerbitkan metrik ke metrik. CloudWatch Solusinya juga membuat CloudWatch dasbor untuk melihat data ini.

AWS Systems Manager

Mendukung. Systems Manager menyediakan pemantauan sumber daya tingkat aplikasi dan visualisasi operasi sumber daya dan data biaya. Juga digunakan untuk menyimpan data konfigurasi di Parameter Store.

AWS WAF

Mendukung. AWS WAF diterapkan di depan penerapan API Gateway untuk melindunginya.

Amazon Bedrock

Opsional. Solusi ini memanfaatkan Amazon Bedrock untuk mengakses fondasi atau model yang disesuaikan, Amazon Bedrock Agents, Amazon Bedrock Knowledge Bases. Amazon Bedrock adalah integrasi yang disarankan untuk menjaga agar data Anda tidak keluar dari jaringan AWS.

Amazon Bedrock AgentCore

Opsional Solusinya memanfaatkan Amazon Bedrock AgentCore untuk menjalankan dan mendukung koneksi MCP Server serta Kasus Penggunaan Pembuat Agen dan Alur Kerja.

Amazon Elastic Container Registry (Amazon ECR)

Opsional. Untuk penerapan Agent Builder, ECR menyimpan dan mendistribusikan gambar kontainer agen. Solusinya menggunakan ECR Pull-Through Cache untuk secara otomatis mengambil gambar agen pra-bangun dari repositori ECR publik tim GAAB.

AWS Distro untuk OpenTelemetry (ADOT)

Opsional. Untuk penerapan Agent Builder, ADOT menyediakan instrumentasi otomatis untuk observabilitas agen, memungkinkan penelusuran terdistribusi dan pencatatan terstruktur untuk operasi agen.

Amazon Kendra

Opsional. Dalam kasus penggunaan Teks, pengguna admin secara opsional dapat memutuskan untuk menghubungkan indeks Amazon Kendra untuk digunakan sebagai basis pengetahuan untuk percakapan dengan LLM. Ini dapat digunakan untuk menyuntikkan informasi baru ke LLM memberikan kemampuan untuk menggunakan informasi itu dalam tanggapannya.

Amazon SageMaker AI

Opsional. Solusinya dapat diintegrasikan dengan titik akhir inferensi Amazon SageMaker AI untuk mengakses FMs yang dihosting dalam akun AWS dan Wilayah Anda dan merupakan integrasi pilihan untuk menjaga data Anda agar tidak keluar dari jaringan AWS.

catatan

Anda harus menerapkan solusi di Wilayah yang sama di mana titik akhir inferensi tersedia.

Amazon Virtual Private Cloud

Opsional. Solusinya menyediakan opsi untuk menyebarkan komponen dengan konfigurasi berkemampuan VPC. Saat menerapkan solusi dengan konfigurasi berkemampuan VPC, Anda memiliki opsi untuk membiarkan solusi membuat VPC untuk Anda, atau menggunakan VPC yang ada di akun dan Wilayah yang sama tempat solusi akan digunakan (Bawa VPC Anda Sendiri). Jika solusi menciptakan VPC, itu menciptakan komponen jaringan yang diperlukan yang mencakup, subnet, grup keamanan dan aturannya, tabel rute, jaringan, Gateway NAT, Gateway Internet ACLs, titik akhir VPC, dan kebijakannya.