架構詳細資訊 - AWS 上的生成式 AI 應用程式建置器

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

架構詳細資訊

本節說明構成此解決方案的元件和 AWS 服務,以及這些元件如何一起運作的架構詳細資訊。

此解決方案中的 AWS 服務

AWS 服務 Description

Amazon API Gateway

核心。此服務提供部署儀表板的 REST APIs,以及使用案例的 WebSocket API。

AWS CloudFormation

核心。此解決方案以 CloudFormation 範本的形式分佈,而 CloudFormation 會部署解決方案的 AWS 資源。

Amazon CloudFront

核心。CloudFront 提供 Amazon S3 中託管的 Web 內容。

Amazon Cognito

核心。此服務會處理 API 的使用者管理和身分驗證。

Amazon DynamoDB

核心。DynamoDB 會存放部署儀表板的部署資訊和組態詳細資訊。它將聊天歷史記錄和對話 IDs存放在文字使用案例中,以啟用對話歷史記錄和查詢歧義。

AWS Lambda

核心。解決方案使用 Lambda 函數來:

* 返回 REST 和 WebSocket API 端點 * 處理每個使用案例協調器的核心邏輯 * 在 CloudFormation 部署期間實作自訂資源

Amazon S3

核心。Amazon S3 託管靜態 Web 內容。

Amazon CloudWatch

支援。此解決方案會將日誌從解決方案資源發佈至 CloudWatch Logs,並將指標發佈至 CloudWatch 指標。解決方案也會建立 CloudWatch 儀表板來檢視此資料。

AWS Systems Manager

支援。Systems Manager 提供資源操作和成本資料的應用程式層級資源監控和視覺化。也用於在參數存放區中存放組態資料。

AWS WAF

支援。AWS WAF 部署在 API Gateway 部署之前,以保護它。

Amazon Bedrock

「選用」。解決方案利用 Amazon Bedrock 存取基礎或自訂模型、Amazon Bedrock Agents、Amazon Bedrock 知識庫。Amazon Bedrock 是建議整合,可防止您的資料離開 AWS 網路。

Amazon Bedrock AgentCore

選用 解決方案可控制 Amazon Bedrock AgentCore 執行和支援 MCP Server 連線,以及 Agent Builder 和 Workflow 使用案例。

Amazon Elastic Container Registry (Amazon ECR)

「選用」。對於代理程式建置器部署,ECR 會存放和分發代理程式容器映像。解決方案使用 ECR Pull-Through Cache 自動從 GAAB 團隊公有 ECR 儲存庫擷取預先建置的代理程式映像。

AWS Distro for OpenTelemetry (ADOT)

「選用」。對於客服人員建置器部署,ADOT 提供客服人員可觀測性的自動檢測,為客服人員操作啟用分散式追蹤和結構化記錄。

Amazon Kendra

「選用」。在文字使用案例中,管理員使用者可以選擇性地決定連接 Amazon Kendra 索引,以用作與 LLM 對話的知識庫。這可用於將新資訊插入 LLM,使其能夠在其回應中使用該資訊。

Amazon SageMaker AI

「選用」。解決方案可與 Amazon SageMaker AI 推論端點整合,以存取 AWS 帳戶和區域內託管FMs,並且是防止資料離開 AWS 網路的偏好整合。

注意

您必須在推論端點可用的相同區域中部署解決方案。

Amazon Virtual Private Cloud

「選用」。解決方案提供使用啟用 VPC 的組態部署元件的選項。使用已啟用 VPC 的組態部署解決方案時,您可以選擇讓解決方案為您建立 VPC,或使用存在於部署解決方案之相同帳戶和區域中的現有 VPC (使用自有 VPC)。如果解決方案建立 VPC,它會建立必要的網路元件,包括子網路、安全群組及其規則、路由表、網路 ACLs、NAT Gateway、網際網路閘道、VPC 端點及其政策。