本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。
重点领域 4：通过身份、护栏和可观察性建立信任
Job to done：“让我有信心特工会安全和可预测地采取行动，尤其是在没人监视的时候。”
自主代理挑战传统的控制模型。如果管理不当，他们独立推理和行动的能力就会带来风险。如果没有明确的所有权、可审计性或政策限制，他们可能会偏离预期行为。建立组织信任需要的不仅仅是技术可靠性。它要求可解释性、问责制和一致性。
Strategy
构建身份优先的控制系统，作为可信自治的支柱。每个代理都必须使用可验证的身份、限定范围的权限和可追踪的执行历史记录进行操作。代理应嵌入到零信任框架中，该框架包括租户绑定、上下文访问继承以及通过护栏和策略引擎执行运行时。这使您可以根据组织规则和风险状况审计、撤消或限制代理操作。
通过智能护栏在运行时嵌入信任执行。这包括基于行为模式或工作量条件的费率控制和限制，在自动缩放的同时强制执行资源边界，以及用于评估风险的决策评分。构建触发器，以便在超过阈值时参与 human-in-the-loop工作流程。
每个代理还必须透明且易于解释。通过日志、轨迹和推理摘要嵌入结构化遥测，以揭示决策逻辑。Support 决策跟踪和影响追踪。这可以帮助您将代理操作与关键指标或结果联系起来。实施偏差检测机制，监控与预期行为或策略的偏差。
引入能够持续观察代理行为和系统模式的反射剂。他们应该实时举报异常或不一致之处。这些代理有助于治理反馈循环，从而启动能力的重新验证、调整或停用。
建立管理委员会，负责审查代理政策、批准能力变更并监督事件响应协议。必须获得、衡量和不断加强信任。
AWS 为实施此信任框架提供了坚实的基础：
-
AWS Identity and Access Management (IAM) 强制执行基于角色的执行和权限限制
-
Amazon CloudWatch 并AWS X-Ray支持全面的可见性和可追溯性。
-
Amazon GuardDuty 并AWS Config检测安全异常或政策偏差。
这些服务共同实现了大规模的身份强制执行、运行时安全和基于信任的治理。它们可以帮助使自主系统既强大又可靠。
可信自治的商业价值
随着代理变得更加自主，信任成为企业采用、治理和运营绩效的关键驱动力。建立身份、可观察性和防护的基础可以帮助组织在不牺牲治理或控制的情况下将代理人工智能扩展到敏感领域。
主要业务驱动因素包括以下几点：
-
治理保障 — 强大的身份模型、审计跟踪和权限界限可降低合规风险并支持监管一致。
-
操作连续性 — 运行时护栏和异常检测有助于防止意外行为，并支持从边缘故障中自我恢复。
-
利益相关者信心 — 决策可解释性和遥测可建立内部利益相关者、风险经理和外部审计师的信任。
-
事件弹性 — 嵌入式可观测性可加快根本原因分析和问题出现时的响应时间。
示例使用案例包括：
-
在金融服务领域，欺诈检测代理必须公开其推理，使用可追踪的身份记录每项操作，并在严格限定的 IAM 角色下运营。
-
在医疗保健领域，自主分诊代理必须执行运行时安全检查，在达到阈值时升级为人工审查，并提供完整的临床监督日志。
通过将信任机制嵌入代理生命周期，组织可以允许其系统在问责的情况下自主运行。该基金会降低了风险，并使代理人能够以透明和诚信的方式代表企业行事。
最终，可信自主性让用户和领导层都有信心在核心运营中扩展智能代理，从而加快采用速度。
