Acceso y seguridad para modelos de peso abierto - Amazon Bedrock
Requisitos previosPermisos Lambda para funciones de recompensa

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Acceso y seguridad para modelos de peso abierto

Antes de empezar con el ajuste preciso de refuerzos (RFT), asegúrese de entender qué tipo de acceso necesita Amazon Bedrock para las operaciones específicas de la RFT. RFT requiere permisos adicionales además de los ajustes estándar debido a sus capacidades de ejecución de funciones de recompensa.

Requisitos previos

Antes de utilizar los ajustes precisos OpenAI compatibles con Amazon Bedrock APIs, asegúrese de disponer de lo siguiente:

  1. Una AWS cuenta con los permisos adecuados para acceder a Amazon Bedrock

  2. Autenticación: puede autenticarse mediante:

    • Clave de API de Amazon Bedrock (necesaria para el OpenAI SDK y disponible para las solicitudes HTTP)

    • AWS credenciales (compatibles con las solicitudes HTTP)

    nota

    Si utiliza claves de API a corto o largo plazo de Amazon Bedrock, asegúrese de que su función tenga acceso a los siguientes permisos de política de IAM: y Rol. AmazonBedrockMantleFullAccess AWSLambda

  3. OpenAISDK (opcional): instala el SDK de OpenAI Python si utilizas solicitudes basadas en el SDK.

  4. Variables de entorno: defina las siguientes variables de entorno:

    • OPENAI_API_KEY— Configúrelo en su clave de API de Amazon Bedrock

    • OPENAI_BASE_URL— Configúrelo en el punto final de Amazon Bedrock de su región (por ejemplo,https://bedrock-mantle.us-west-2.api.aws/v1)

    Para obtener más información, consulte API de respuestas.

  5. Los datos de entrenamiento se formatearon como archivos JSONL con este propósito. fine-tune Para obtener más información, consulte Prepare los datos para los modelos de peso abierto.

Permisos Lambda para funciones de recompensa

Debe añadir permisos de invocación a Lambda. A continuación, se muestra un ejemplo de política que puede utilizar:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:reward-function-name"
            ]
        }
    ]
}

También puede utilizar modelos alojados en Amazon Bedrock como jueces para configurar las funciones de recompensa. Deberá añadir permisos específicos para invocar modelos básicos a la función de ejecución de Lambda. En su rol de lambda, puede configurar estas políticas administradas para LLMs la calificación. Consulte AmazonBedrockLimitedAccess.

El siguiente es un ejemplo de cómo invocar los modelos básicos de Amazon Bedrock como juez mediante la API Invoke:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:foundation-model/*"
            ]
        }
    ]
}