本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

使用情境依據檢查來篩選回應中的幻覺

Amazon Bedrock 防護機制支援情境依據檢查，可在提供參考來源和使用者查詢時，偵測和篩選模型回應中的幻覺。支援的使用案例包括摘要、複寫和問題回答，如電腦科學學科所定義。（不支援轉換 QA/聊天機器人使用案例。)

情境依據檢查會檢查每個已處理區塊的相關性。如果任何一個區塊被視為相關，則整個回應會被視為相關，因為它有使用者查詢的答案。對於串流 API，這可能會導致不相關的回應傳回給使用者的情況，並且僅在整個回應串流之後才會標記為不相關。

內容接地會檢查下列範例：

請考慮參考來源包含「倫敦是英國的首都」的範例。東京是日本的首都」，而使用者查詢是「日本的首都是什麼？」。「日本的首都為倫敦」等回應將被視為無根據且事實上不正確，其中「英國的首都為倫敦」等回應將被視為不相關，即使其正確且以來源為基礎。

可信度分數和閾值

情境依據檢查會產生可信度分數，對應到根據提供的來源和使用者查詢處理的每個模型回應的依據和相關性。您可以設定閾值，根據產生的分數篩選模型回應。篩選閾值會決定模型回應的最低允許可信度分數，以便在生成式 AI 應用程式中將其視為依據且相關。例如，如果您的依據閾值和相關性閾值都設定為 0.7，則依據或相關性分數小於 0.7 的所有模型回應都會偵測為幻覺，並在您的應用程式中予以封鎖。隨著篩選閾值的增加，封鎖未依據和不相關情境的可能性會增加，且在應用程式中看到幻覺情境的可能性也會降低。您可以設定 0 到 0.99 之間的依據和相關性閾值。閾值 1 無效，因為這會封鎖所有情境。

情境依據檢查需要 3 個元件才能執行檢查：依據來源、查詢和要防護的情境 (或模型回應)。根據您是使用調用 API、Converse API 或直接使用 ApplyGuardrail，這些設定會有所不同。

未依據範例

在此範例中，要防護的情境與查詢相關，但由於未正確使用依據來源，因此未依據。這將具有較低的依據分數。

不相關範例

在此範例中，依據要防護的情境，但不相關。它使用來自依據來源的資訊，但不回答查詢。這個為低相關性分數。

未依據和不相關範例

在這個範例中，未依據要防護的情境，也不相關。它既未使用來自依據來源的資訊，也未回答查詢。這個為低依據和相關性分數。

更多範例

考慮一個旨在回答與費用相關問題的銀行應用程式。

來源：

根據上述來源，根據使用者的查詢，可能會有四種情況。

已依據且相關

未依據但相關

已依據但不相關

未依據且不相關

使用主控台新增情境依據檢查

使用調用 API 呼叫情境依據檢查

若要在輸入中標記接地來源和查詢，請使用與輸入標籤相同的下列標籤。這些標籤是 amazon-bedrock-guardrails-groundingSource_xyz和 amazon-bedrock-guardrails-query_xyz，其中 xyz是標籤尾碼。例如：

{
    "text": """
<amazon-bedrock-guardrails-groundingSource_xyz>London is the capital of UK. Tokyo is the capital of Japan. </amazon-bedrock-guardrails-groundingSource_xyz>

<amazon-bedrock-guardrails-query_xyz>What is the capital of Japan?</amazon-bedrock-guardrails-query_xyz>
""",
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz",
    },
}    
        

請注意，需要模型回應才能執行情境式依據檢查，因此檢查只會在輸出上執行，而不會在提示上執行。

這些標籤可與guardContent標籤搭配使用。除了內容基礎 （字詞篩選條件、主題篩選條件、內容篩選條件、敏感資訊偵測）， groundingSource和 query 標籤中的內容會排除在政策評估之外。

其餘政策的行為取決於您是否使用guardContent標籤：

若要讓其餘政策也評估接地來源或查詢內容，請在標籤內巢狀內容接地guardContent標籤：

<amazon-bedrock-guardrails-guardContent_xyz><amazon-bedrock-guardrails-groundingSource_xyz>London is the capital of UK. Tokyo is the capital of Japan.</amazon-bedrock-guardrails-groundingSource_xyz></amazon-bedrock-guardrails-guardContent_xyz>

<amazon-bedrock-guardrails-query_xyz>What is the capital of Japan?</amazon-bedrock-guardrails-query_xyz>
        

在此範例中，接地來源內容都用作內容式接地參考來源，並由其他政策評估，因為它也包裝在guardContent標籤中。

使用 Converse 調用 API 呼叫情境依據檢查

若要標記 Converse API 的依據來源和查詢，請使用每個防護情境區塊中的限定詞欄位。例如：

[
    {
        "role": "user",
        "content": [
            {
                "guardContent": {
                    "text": {
                        "text": "London is the capital of UK. Tokyo is the capital of Japan",
                        "qualifiers": ["grounding_source"],
                    }
                }
            },
            {
                "guardContent": {
                    "text": {
                        "text": "What is the capital of Japan?",
                        "qualifiers": ["query"],
                    }
                }
            },
        ],
    }
]
        

請注意，需要模型回應才能執行情境式依據檢查，因此檢查只會在輸出上執行，而不會在提示上執行。

內容式接地以外的政策行為取決於指派給每個guardContent區塊的限定詞：

如果您希望其他護欄政策也評估您的接地來源或查詢內容，請將 guard_content新增至限定詞清單以及內容式接地限定詞。

使用 ApplyGuardrail API 呼叫情境依據檢查

搭配 ApplyGuardrail 使用情境依據檢查類似於搭配 Converse API 使用。若要標記 ApplyGuardrail 的依據來源和查詢，請使用每個情境區塊中的限定詞欄位。不過，由於並未使用 ApplyGuardrail 調用模型，因此您還必須提供額外的情境區塊，其中包含要防護的情境。此情境區塊可以選擇性地符合 guard_content 的資格，相當於 Invoke* 或 Converse* API 中的模型回應。例如：

[
    {
        "text": {
            "text": "London is the capital of UK. Tokyo is the capital of Japan",
            "qualifiers": [
                "grounding_source"
            ]
        }
    },
    {
        "text": {
            "text": "What is the capital of Japan?",
            "qualifiers": [
                "query"
            ]
        }
    },
    {
        "text": {
            "text": "The capital of Japan is Tokyo."
        }
    }
]
        

請注意，需要模型回應才能執行情境式依據檢查，因此檢查只會在輸出上執行，而不會在提示上執行。

限定詞如何影響政策評估

具有 query grounding_source或 限定詞的內容區塊只會透過內容式接地檢查進行評估。這些區塊會從所有其他護欄政策評估 （字詞篩選條件、主題篩選條件、內容篩選條件、敏感資訊偵測和提示攻擊偵測） 中排除。

若要讓內容區塊同時透過情境接地檢查和其他護欄政策進行評估，請同時使用這兩個限定詞。例如，指定 ["grounding_source", "guard_content"]將內容區塊標記為也受所有其他設定政策約束的接地來源。

對於內容基礎以外的政策來評估內容，至少一個內容區塊必須使用 不符合資格或明確符合資格guard_content。當內容區塊沒有qualifiers欄位時，即不符合資格。

下表摘要說明每個限定詞組合如何影響政策評估。