Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Uso de la verificación de fundamento contextual para filtrar las alucinaciones en las respuestas

Barreras de protección para Amazon Bedrock admite verificaciones de fundamento contextual para detectar y filtrar las alucinaciones en las respuestas de los modelos cuando se proporciona un origen de referencia y una consulta de un usuario. Los casos de uso admitidos incluyen el resumen, la paráfrasis y la respuesta a preguntas, tal como se define en la disciplina de las ciencias de la computación. (No se admiten los casos de uso de chatbot o control de calidad conversacional).

Las verificaciones de fundamento contextual comprueban la relevancia de cada fragmento procesado. Si alguna parte se considera relevante, se considera relevante la respuesta completa, ya que contiene la respuesta a la consulta del usuario. En el caso de la API de transmisión, esto puede provocar que se devuelva una respuesta irrelevante al usuario y que solo se marque como irrelevante una vez que se haya transmitido toda la respuesta.

La fundamentación contextual comprueba los siguientes paradigmas:

Considere un ejemplo en el que la fuente de referencia dice «Londres es la capital del Reino Unido». Tokio es la capital de Japón» y la consulta del usuario es «¿Cuál es la capital de Japón?». Una respuesta como «La capital de Japón es Londres» se considerará infundada y objetivamente incorrecta, mientras que una respuesta como «La capital del Reino Unido es Londres» se considerará irrelevante, incluso si es correcta y se basa en la fuente.

Puntuaciones y umbrales de confianza

Las verificaciones de fundamento contextual generan puntuaciones de confianza correspondientes al fundamento y la relevancia de cada respuesta del modelo procesada en función del origen y la consulta del usuario proporcionados. Puede configurar umbrales para filtrar las respuestas del modelo en función de las puntuaciones generadas. El umbral de filtrado determina la puntuación de confianza mínima permitida para que la respuesta del modelo se considere fundada y relevante en la aplicación de IA generativa. Por ejemplo, si el umbral de fundamento y el umbral de relevancia están establecidos en 0,7 cada uno, todas las respuestas del modelo con una puntuación de fundamento o de relevancia inferior a 0,7 se detectarán como alucinaciones y se bloquearán en la aplicación. A medida que se incrementa el umbral de filtrado, aumenta la probabilidad de bloquear contenido irrelevante y sin fundamento, y disminuye la probabilidad de ver contenido alucinado en la aplicación. Puede configurar valores de umbral de fundamento y relevancia entre 0 y 0,99. Un umbral de 1 no es válido, ya que bloquearía todo el contenido.

Las verificaciones de fundamento contextual requieren tres componentes para realizar la verificación: el origen del fundamento, la consulta y el contenido que se debe proteger (o la respuesta del modelo). Se configuran de forma diferente en función de si utiliza las API Invoke, las API Converse o ApplyGuardrail directamente.

Ejemplo sin fundamento

En este ejemplo, el contenido que se debe proteger es relevante para la consulta, pero carece de fundamento, ya que no utiliza correctamente el origen del fundamento. Este ejemplo tendría una puntuación de fundamento baja.

Ejemplo irrelevante

En este ejemplo, el contenido que se debe proteger está fundamentado pero no es relevante. Utiliza información del origen del fundamento, pero no responde a la consulta. Esto tendría una puntuación de fundamento baja.

Ejemplo irrelevante y sin fundamento

En este ejemplo, el contenido que se debe proteger no está fundamentado ni es relevante. No utiliza información del origen del fundamento ni responde a la consulta. Esto tendría una puntuación de fundamento y de relevancia baja.

Más ejemplos

Considere una aplicación bancaria diseñada para responder a las preguntas relacionadas con las tarifas y los cargos.

Origen:

Según la fuente anterior, puede haber cuatro escenarios según la consulta del usuario.

Fundamentada y relevante

Un-grounded pero relevante

Fundamentada pero irrelevante

Un-grounded e irrelevante

Adición de verificaciones de fundamento contextual con la consola

Llamada de la verificación de fundamento contextual con las API de Invoke

Para marcar la fuente básica y la consulta en la entrada, utilice las siguientes etiquetas que funcionan de la misma manera que las etiquetas de entrada. Estas etiquetas son amazon-bedrock-guardrails-groundingSource_xyz yamazon-bedrock-guardrails-query_xyz, ¿dónde xyz está el sufijo de la etiqueta? Por ejemplo:

{
    "text": """
<amazon-bedrock-guardrails-groundingSource_xyz>London is the capital of UK. Tokyo is the capital of Japan. </amazon-bedrock-guardrails-groundingSource_xyz>

<amazon-bedrock-guardrails-query_xyz>What is the capital of Japan?</amazon-bedrock-guardrails-query_xyz>
""",
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz",
    },
}    
        

Tenga en cuenta que la respuesta del modelo es necesaria para realizar las verificaciones de fundamento contextual, por lo que las verificaciones solo se realizarán en el resultado y no en la petición.

Estas etiquetas se pueden usar junto con las guardContent etiquetas. El contenido que groundingSource contienen y las query etiquetas se excluyen de las evaluaciones de políticas, salvo en función del contexto (filtros de palabras, filtros de temas, filtros de contenido, detección de información confidencial).

El comportamiento del resto de las políticas depende de si se utilizan guardContent etiquetas:

Para que las demás políticas también evalúen el contenido básico de origen o consulta, coloca la etiqueta básica contextual dentro de una etiqueta: guardContent

<amazon-bedrock-guardrails-guardContent_xyz><amazon-bedrock-guardrails-groundingSource_xyz>London is the capital of UK. Tokyo is the capital of Japan.</amazon-bedrock-guardrails-groundingSource_xyz></amazon-bedrock-guardrails-guardContent_xyz>

<amazon-bedrock-guardrails-query_xyz>What is the capital of Japan?</amazon-bedrock-guardrails-query_xyz>
        

En este ejemplo, el contenido de la fuente básica se utiliza como fuente de referencia contextual y se evalúa según otras políticas, ya que también está incluido en una etiqueta. guardContent

Al llamar a la verificación de base contextual con Converse API

Para marcar el origen del fundamento y la consulta de las API Converse, use el campo de calificadores de cada bloque de contenido protegido. Por ejemplo:

[
    {
        "role": "user",
        "content": [
            {
                "guardContent": {
                    "text": {
                        "text": "London is the capital of UK. Tokyo is the capital of Japan",
                        "qualifiers": ["grounding_source"],
                    }
                }
            },
            {
                "guardContent": {
                    "text": {
                        "text": "What is the capital of Japan?",
                        "qualifiers": ["query"],
                    }
                }
            },
        ],
    }
]
        

Tenga en cuenta que la respuesta del modelo es necesaria para realizar las verificaciones de fundamento contextual, por lo que las verificaciones solo se realizarán en el resultado y no en la petición.

El comportamiento de las políticas distintas de las basadas en el contexto depende de los calificadores asignados a cada bloque: guardContent

Si desea que su fuente básica o el contenido de su consulta también se evalúe según otras políticas de protección, añada guard_content a la lista de calificadores junto con el calificador de base contextual.

Consulta los fundamentos contextuales de las llamadas con la API ApplyGuardrail

El uso de la verificación de fundamento contextual con ApplyGuardrail es similar al de las API Converse. Para marcar el origen del fundamento y la consulta para ApplyGuardrail, use el campo de calificadores de cada bloque de contenido. Sin embargo, dado que un modelo no se invoca con ApplyGuardrail, también debe proporcionar un bloque de contenido adicional con el contenido que desea proteger. Este bloque de contenido se puede calificar opcionalmente con guard_content y equivale a la respuesta del modelo en las API de Invoke* o Converse*. Por ejemplo:

[
    {
        "text": {
            "text": "London is the capital of UK. Tokyo is the capital of Japan",
            "qualifiers": [
                "grounding_source"
            ]
        }
    },
    {
        "text": {
            "text": "What is the capital of Japan?",
            "qualifiers": [
                "query"
            ]
        }
    },
    {
        "text": {
            "text": "The capital of Japan is Tokyo."
        }
    }
]
        

Tenga en cuenta que la respuesta del modelo es necesaria para realizar las verificaciones de fundamento contextual, por lo que las verificaciones solo se realizarán en el resultado y no en la petición.

Cómo afectan los calificadores a la evaluación de las políticas

Los bloques de contenido con query calificadores grounding_source o calificadores se evalúan únicamente mediante la comprobación contextual. Estos bloques se excluyen de todas las demás evaluaciones de políticas cautelares (filtros de palabras, filtros de temas, filtros de contenido, detección de información confidencial y detección inmediata de ataques).

Para que un bloque de contenido se evalúe mediante la comprobación contextual y otras políticas de protección, utilice ambos calificadores juntos. Por ejemplo, especifique ["grounding_source", "guard_content"] marcar un bloque de contenido como fuente básica que también esté sujeto a todas las demás políticas configuradas.

En el caso de políticas que no se basen en el contexto para evaluar el contenido, al menos un bloque de contenido no debe estar cualificado o estar cualificado de forma explícita con él. guard_content Un bloque de contenido no está calificado cuando no tiene ningún campo. qualifiers

En la siguiente tabla se resume cómo afecta cada combinación de calificadores a la evaluación de políticas.