本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。
# 为 Connect 人工智能代理创建人工智能护栏
*人工智能护栏*是一种资源，可让您根据使用案例和负责任的人工智能策略实施保护措施。
Connect AI 代理使用 Amazon Bedrock 护栏。您可以在 Connect Customer 管理员网站上创建和编辑这些护栏。
**Topics**
+ [需要了解的重要事项](#important-ai-guardrail)
+ [如何创建人工智能护栏](#create-ai-guardrail)
+ [更改默认的已阻止消息](#change-default-blocked-message)
+ [用于配置人工智能护栏策略的示例 CLI 命令](#guardrail-policy-configurations)
## 需要了解的重要事项
+ 最多可以创建三个自定义护栏。
+ Connect 人工智能代理的护栏支持与 Amazon Bedrock 护栏经典等级相同的语言。有关支持的语言的完整列表，请参阅 [Amazon Bedrock 护栏支持的语言](https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-supported-languages.html)。评估其它语言的文本内容将无效。
+ 在配置或编辑护栏时，我们强烈建议您使用不同的配置进行实验和基准测试。您的某些组合可能会产生意想不到的后果。测试护栏以确保结果符合您的使用案例要求。
+ 当启用流媒体响应的护栏时，会有额外的延迟，因为文本块在交付之前必须进行缓冲和扫描。这主要影响 time-to-first-token (TTFT)，因为在将第一个区块流式传输给最终用户之前，系统需要积累足够的文本来执行有意义的护栏评估。预计TTFT之外还会有较小的延迟，具体取决于护栏配置。由于护栏扫描仍必须处理最少的文本缓冲区，因此较短的响应可能会出现更明显的延迟。这是内容安全精度和响应速度之间固有的权衡。如果您的用例对延迟敏感，请考虑是否所有交互都需要护栏，或者是否可以有选择地应用护栏。有关同步护栏直播模式的更多信息，请参阅 A *mazon Bedrock* 用户指南中的[配置流媒体响应行为以筛选内容](https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-streaming.html)。
## 如何创建人工智能护栏
1. 使用拥有 **AI 代理设计者、AI** **护栏-在其安全配置文件中创建**权限的帐户登录 Connect Customer 管理网站。
1. 在 Connect Customer 管理网站的左侧导航菜单中，选择 **AI 代理设计器**、**AI 护栏**。
1. 在**护栏**页面上，选择**创建护栏**。
1. 在**创建人工智能护栏**对话框中，输入护栏的名称和描述，然后选择**创建**。
1. 在**人工智能护栏生成器**页面上，根据需要填写以下字段来为护栏创建策略：
+ **内容筛选条件**：调整筛选条件强度，来协助屏蔽包含有害内容的输入提示或模型回复。筛选是基于对某些预定义的有害内容类别进行检测来完成的，包括仇恨言论、侮辱性内容、色情内容、暴力内容、不当行为以及提示攻击。
+ **被拒绝的话题**：定义一组在应用程序的上下文中不受欢迎的话题。如果系统在用户查询或模型响应中检测到这些主题，筛选条件将帮助屏蔽它们。最多可以添加 30 个被拒绝的话题。
+ **上下文一致性检查**：根据对来源的验证以及与用户查询的相关性，协助检测和筛选模型回复中的幻觉。
+ **单词筛选条件**：配置筛选条件，以协助阻止不受欢迎的单词、短语和亵渎性内容（完全匹配）。包括冒犯性用语、竞争对手名称等。
+ **敏感信息筛选条件**：配置筛选条件来协助阻止或掩蔽敏感信息，例如用户输入和模型回复中的个人身份信息（PII）或自定义正则表达式。
阻止或掩蔽是基于对 SSN 编号、出生日期、地址等实体中标准格式的敏感信息进行概率检测来完成的。这还支持配置基于正则表达式的标识符模式检测。
+ **已阻止消息**：自定义在您的护栏阻止输入或模型回复时向用户显示的默认消息。
Amazon Connect 不支持使用**图片内容筛选条件**来协助检测和筛选不当或有害的图片内容。
1. 护栏完成后，选择**保存**。
从版本下拉列表中选择时，**Latest:Draft** 始终返回人工智能护栏的已保存状态。
1. 选择**发布**。对人工智能护栏的更新已保存，人工智能护栏可见性状态设置为**已发布**，并创建了新的人工智能护栏版本。
从版本下拉列表中选择时，**Latest:Published** 始终返回人工智能护栏的已保存状态。
## 更改默认的已阻止消息
本节以更改向用户显示的已阻止消息为例，说明了如何在 Connect Customer 管理员网站中访问人工智能护栏生成器和编辑器。
下图显示了向用户显示的默认已阻止消息的示例。默认消息是“Blocked input text by guardrail”。
**更改默认的已阻止消息**
1. 登录 Connect Customer 管理员网站 https://{{instance name}}.my.connect.aws/。使用管理员帐户或拥有 **AI 代理设计师的帐户-AI g** **uardrails**-**在其安全配置文件中创建**权限。
1. 在导航菜单上，选择 **AI 代理设计器**、**AI 护栏**。
1. 在**人工智能护栏**页面上，选择**创建人工智能护栏**。将显示一个对话框，供您指定名称和描述。
1. 在**创建人工智能护栏**对话框中，输入名称和描述，然后选择**创建**。如果您的企业已经有三个护栏，您将收到一条错误消息，如下图所示。
如果您收到此消息，请考虑编辑现有护栏以满足您的需求，而不是创建另一个护栏。或者，删除一个护栏，这样您就可以创建另一个护栏。
1. 要更改护栏阻止模型回复时显示的默认消息，请滚动到**已阻止消息**部分。
1. 输入要显示的阻止消息文本，选择**保存**，然后选择**发布**。
## 用于配置人工智能护栏策略的示例 CLI 命令
以下是如何使用 AWS CLI 配置人工智能护栏策略的示例。
### 屏蔽不良话题
使用以下 AWS CLI 命令示例，屏蔽不良话题。
```
aws qconnect update-ai-guardrail
--cli-input-json {
"assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
"aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
"blockedInputMessaging": "Blocked input text by guardrail",
"blockedOutputsMessaging": "Blocked output text by guardrail",
"visibilityStatus": "PUBLISHED",
"topicPolicyConfig": {
"topicsConfig": [
{
"name": "Financial Advice",
"definition": "Investment advice refers to financial inquiries, guidance, or recommendations with the goal of generating returns or achieving specific financial objectives.",
"examples": ["- Is investment in stocks better than index funds?", "Which stocks should I invest into?", "- Can you manage my personal finance?"],
"type": "DENY"
}
]
}
}
```
### 筛选有害和不恰当的内容
使用以下 AWS CLI 命令示例，筛选有害和不当内容。
```
aws qconnect update-ai-guardrail
--cli-input-json {
"assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
"aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
"blockedInputMessaging": "Blocked input text by guardrail",
"blockedOutputsMessaging": "Blocked output text by guardrail",
"visibilityStatus": "PUBLISHED",
"contentPolicyConfig": {
"filtersConfig": [
{
"inputStrength": "HIGH",
"outputStrength": "HIGH",
"type": "INSULTS"
}
]
}
}
```
### 筛选有害和不恰当的单词
使用以下 AWS CLI 命令示例，筛选有害和不恰当的词语。
```
aws qconnect update-ai-guardrail
--cli-input-json {
"assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
"aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
"blockedInputMessaging": "Blocked input text by guardrail",
"blockedOutputsMessaging": "Blocked output text by guardrail",
"visibilityStatus": "PUBLISHED",
"wordPolicyConfig": {
"wordsConfig": [
{
"text": "Nvidia",
},
]
}
}
```
### 检测模型回复中的幻觉
使用以下 AWS CLI 命令示例，检测模型响应中的幻觉。
```
aws qconnect update-ai-guardrail
--cli-input-json {
"assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
"aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
"blockedInputMessaging": "Blocked input text by guardrail",
"blockedOutputsMessaging": "Blocked output text by guardrail",
"visibilityStatus": "PUBLISHED",
"contextualGroundPolicyConfig": {
"filtersConfig": [
{
"type": "RELEVANCE",
"threshold": 0.50
},
]
}
}
```
### 删除敏感信息
使用以下 AWS CLI 命令示例，编辑敏感信息，例如个人身份信息 (PII)。
```
aws qconnect update-ai-guardrail
--cli-input-json {
"assistantId": "a0a81ecf-6df1-4f91-9513-3bdcb9497e32",
"aiGuardrailId": "9147c4ad-7870-46ba-b6c1-7671f6ca3d95",
"blockedInputMessaging": "Blocked input text by guardrail",
"blockedOutputsMessaging": "Blocked output text by guardrail",
"visibilityStatus": "PUBLISHED",
"sensitiveInformationPolicyConfig": {
"piiEntitiesConfig": [
{
"type": "CREDIT_DEBIT_CARD_NUMBER",
"action":"BLOCK",
},
]
}
}
```