Creación de un trabajo de AutoML para afinar modelos de generación de texto mediante la API

Los modelos de lenguaje de gran tamaño (LLM) se destacan en múltiples tareas generativas, como la generación de textos, el resumen, la finalización, la respuesta a preguntas, etc. Su rendimiento se puede atribuir a su considerable tamaño y a su amplio entrenamiento en diversos conjuntos de datos y tareas. Sin embargo, algunos dominios específicos, como los servicios sanitarios y el sector financiero, pueden requerir ajustes personalizados para adaptarse a sus datos y casos de uso particulares. Al adaptar el entrenamiento a su dominio particular, los LLM pueden mejorar su rendimiento y proporcionar resultados más exactos para aplicaciones específicas.

Piloto automático ofrece la capacidad de ajustar una selección de modelos de texto generativo previamente entrenados. En particular, Autopilot admite el ajuste fino basado en instrucciones de una selección de modelos de lenguaje grandes (LLM) de uso general impulsados por. JumpStart

Fine-tuning un modelo previamente entrenado requiere un conjunto de datos específico de instrucciones claras que guíen al modelo sobre cómo generar resultados o cómo comportarse para esa tarea. El modelo aprende del conjunto de datos y ajusta sus parámetros para que se ajusten a las instrucciones proporcionadas. Instruction-based El ajuste preciso implica el uso de ejemplos etiquetados, formateados como pares de pronto-respuesta y redactados como instrucciones. Para obtener más información sobre el ajuste fino, consulte un modelo básico. Fine-tune

Las siguientes pautas describen el proceso de creación de un trabajo de Amazon SageMaker Autopilot como experimento piloto para ajustar con precisión los LLM de generación de texto mediante la API Reference. SageMaker

Para crear un experimento de piloto automático mediante programación para ajustar un LLM, puede llamar a la CreateAutoMLJobV2API en cualquier idioma compatible con Amazon Autopilot o el. SageMaker AWS CLI

Para obtener información sobre cómo se traduce esta acción de API en una función en el lenguaje de su elección, consulte la sección Véase también de CreateAutoMLJobV2 y seleccione un SDK. Como ejemplo, para los usuarios de Python, consulte la sintaxis de solicitud completa de create_auto_ml_job_v2 en AWS SDK para Python (Boto3).

Tras refinar el LLM, podrá evaluar su rendimiento accediendo a varias puntuaciones de ROUGE mediante el BestCandidate al hacer una llamada a la API de DescribeAutoMLJobV2. El modelo también proporciona información sobre su pérdida de entrenamiento y validación, así como sobre la perplejidad. A fin de obtener una lista completa de métricas para evaluar la calidad del texto generado por los modelos de ajuste fino, consulte Métricas para ajustar modelos de lenguaje grandes en Piloto automático.

Requisitos previos

Antes de usar el piloto automático para crear un experimento de ajuste preciso en la SageMaker IA, asegúrate de seguir los siguientes pasos:

Una vez hecho esto, puede usar el ARN de este rol de ejecución en las solicitudes de la API de Piloto automático.

Parámetros necesarios

Al llamar a CreateAutoMLJobV2 para crear un experimento de Piloto automático con el fin de refinar LLM, debe proporcionar los siguientes valores:

A continuación, se muestra un ejemplo del formato de solicitud completo que se utiliza al realizar una llamada a la API para CreateAutoMLJobV2 con el fin de refinar un modelo (Falcon7BInstruct).

{
   "AutoMLJobName": "<job_name>",
   "AutoMLJobInputDataConfig": [ 
      { 
         "ChannelType": "training",
         "CompressionType": "None",
         "ContentType": "text/csv", 
         "DataSource": { 
            "S3DataSource": { 
               "S3DataType": "S3Prefix",
               "S3Uri": "s3://<bucket_name>/<input_data>.csv"
            }
         }
      }
   ],
  "OutputDataConfig": {
      "S3OutputPath": "s3://<bucket_name>/output",
      "KmsKeyId": "arn:aws:kms:<region>:<account_id>:key/<key_value>"
   },
   "RoleArn":"arn:aws:iam::<account_id>:role/<sagemaker_execution_role_name>",
   "AutoMLProblemTypeConfig": {
        "TextGenerationJobConfig": {
            "BaseModelName": "Falcon7BInstruct"
       }
   }
}

Todos los demás parámetros son opcionales.

Parámetros opcionales

En las siguientes secciones, se proporcionan detalles de algunos parámetros opcionales que puede pasar al trabajo de ajuste de AutoML.

"AutoMLProblemTypeConfig": {
  "TextGenerationJobConfig": {
    "BaseModelName": "Falcon7B",
    "TextGenerationHyperParameters": {"epochCount":"5", "learningRate":"0.000001", "batchSize": "32", "learningRateWarmupSteps": "10"}
  }
}