本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
架构详情
本节介绍构成此解决方案的组件和 AWS 服务,以及这些组件如何协同工作的架构详情。
此解决方案中的 AWS 服务
| AWS 服务 | 说明 |
|---|---|
|
核心。该服务为部署仪表板提供 REST APIs 和用例的 WebSocket API。 |
|
|
核心。此解决方案以 CloudFormation 模板形式分发,并 CloudFormation 部署该解决方案的 AWS 资源。 |
|
|
核心。 CloudFront 提供托管在 Amazon S3 中的网页内容。 |
|
|
核心。该服务处理 API 的用户管理和身份验证。 |
|
|
核心。DynamoDB 存储部署控制面板的部署信息和配置详细信息。它将聊天记录和对话存储 IDs 在文本用例中,以启用对话历史记录和查询消歧义。 |
|
|
核心。该解决方案使用 Lambda 函数来: * 返回 REST 和 WebSocket API 端点 * 处理每个用例协调器的核心逻辑 * 在部署期间实现自定义资源 CloudFormation |
|
|
核心。Amazon S3 托管静态网页内容。 |
|
|
支持。此解决方案将解决方案资源中的日志发布到CloudWatch 日志,并将指标发布到CloudWatch 指标。该解决方案还会创建一个CloudWatch 仪表板来查看这些数据。 |
|
|
支持。Systems Manager 提供应用程序级资源监控,并可视化资源操作和成本数据。也用于在参数存储中存储配置数据。 |
|
|
支持。为了保护它,AWS WAF 部署在 API Gateway 部署之前部署。 |
|
|
可选。该解决方案利用 Amazon Bedrock 访问基础模型或定制模型、亚马逊 Bedrock Agents、Amazon Bedrock 知识库。建议使用 Amazon Bedrock 进行集成,以防止您的数据离开 AWS 网络。 |
|
|
可选该解决方案利用 Amazon Bedrock AgentCore 来运行和支持 MCP 服务器连接以及代理生成器和工作流程用例。 |
|
|
可选。对于代理生成器部署,ECR 存储和分发代理容器映像。该解决方案使用 ECR Pull-Through Cache 自动从 GAAB 团队的公共 ECR 存储库中检索预先构建的代理映像。 |
|
|
可选。对于 Agent Builder 部署,ADOT 为代理可观察性提供自动检测工具,从而为代理操作启用分布式跟踪和结构化日志记录。 |
|
|
可选。在文本用例中,管理员用户可以选择连接 Amazon Kendra 索引,将其用作与 LLM 对话的知识库。这可以用来向法学硕士注入新信息,使其能够在响应中使用这些信息。 |
|
|
可选。该解决方案可以与托管在您的 AWS 账户和区域中的 Amazon A SageMaker I 推理终端节点集成以进行访问 FMs ,并且是防止您的数据离开 AWS 网络的首选集成。 注意您必须在推理终端节点可用的同一区域部署解决方案。 |
|
|
可选。该解决方案提供了使用支持 VPC 的配置来部署组件的选项。在使用支持 VPC 的配置部署解决方案时,您可以选择让解决方案为您创建 VPC,也可以选择使用存在于部署解决方案的同一账户和区域中的现有 VPC(自带 VPC)。如果解决方案创建 VPC,则会创建必要的网络组件,包括子网、安全组及其规则、路由表、网络 ACLs、NAT 网关、Internet 网关、VPC 终端节点及其策略。 |