架构详情 - AWS 上的生成式人工智能应用程序构建者

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

架构详情

本节介绍构成此解决方案的组件和 AWS 服务,以及这些组件如何协同工作的架构详情。

此解决方案中的 AWS 服务

AWS 服务 说明

Amazon API Gateway

核心。该服务为部署仪表板提供 REST APIs 和用例的 WebSocket API。

AWS CloudFormation

核心。此解决方案以 CloudFormation 模板形式分发,并 CloudFormation 部署该解决方案的 AWS 资源。

Amazon CloudFront

核心。 CloudFront 提供托管在 Amazon S3 中的网页内容。

Amazon Cognito

核心。该服务处理 API 的用户管理和身份验证。

Amazon DynamoDB

核心。DynamoDB 存储部署控制面板的部署信息和配置详细信息。它将聊天记录和对话存储 IDs 在文本用例中,以启用对话历史记录和查询消歧义。

AWS Lambda

核心。该解决方案使用 Lambda 函数来:

* 返回 REST 和 WebSocket API 端点 * 处理每个用例协调器的核心逻辑 * 在部署期间实现自定义资源 CloudFormation

Amazon S3

核心。Amazon S3 托管静态网页内容。

Amazon CloudWatch

支持。此解决方案将解决方案资源中的日志发布到CloudWatch 日志,并将指标发布到CloudWatch 指标。该解决方案还会创建一个CloudWatch 仪表板来查看这些数据。

AWS Systems Manager

支持。Systems Manager 提供应用程序级资源监控,并可视化资源操作和成本数据。也用于在参数存储中存储配置数据。

AWS WAF

支持。为了保护它,AWS WAF 部署在 API Gateway 部署之前部署。

Amazon Bedrock

可选。该解决方案利用 Amazon Bedrock 访问基础模型或定制模型、亚马逊 Bedrock Agents、Amazon Bedrock 知识库。建议使用 Amazon Bedrock 进行集成,以防止您的数据离开 AWS 网络。

Amazon Bedrock AgentCore

可选该解决方案利用 Amazon Bedrock AgentCore 来运行和支持 MCP 服务器连接以及代理生成器和工作流程用例。

Amazon Elastic Container Registry(Amazon ECR)

可选。对于代理生成器部署,ECR 存储和分发代理容器映像。该解决方案使用 ECR Pull-Through Cache 自动从 GAAB 团队的公共 ECR 存储库中检索预先构建的代理映像。

适用于 OpenTelemetry (ADOT) 的 AWS 发行版

可选。对于 Agent Builder 部署,ADOT 为代理可观察性提供自动检测工具,从而为代理操作启用分布式跟踪和结构化日志记录。

Amazon Kendra

可选。在文本用例中,管理员用户可以选择连接 Amazon Kendra 索引,将其用作与 LLM 对话的知识库。这可以用来向法学硕士注入新信息,使其能够在响应中使用这些信息。

亚马逊 SageMaker AI

可选。该解决方案可以与托管在您的 AWS 账户和区域中的 Amazon A SageMaker I 推理终端节点集成以进行访问 FMs ,并且是防止您的数据离开 AWS 网络的首选集成。

注意

您必须在推理终端节点可用的同一区域部署解决方案。

Amazon Virtual Private Cloud

可选。该解决方案提供了使用支持 VPC 的配置来部署组件的选项。在使用支持 VPC 的配置部署解决方案时,您可以选择让解决方案为您创建 VPC,也可以选择使用存在于部署解决方案的同一账户和区域中的现有 VPC(自带 VPC)。如果解决方案创建 VPC,则会创建必要的网络组件,包括子网、安全组及其规则、路由表、网络 ACLs、NAT 网关、Internet 网关、VPC 终端节点及其策略。