View a markdown version of this page

Ajuste modelos de peso aberto usando -compatible OpenAI APIs - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Ajuste modelos de peso aberto usando -compatible OpenAI APIs

O Amazon Bedrock fornece endpoints de API OpenAI compatíveis para ajustar os modelos básicos. Esses endpoints permitem que você use ferramentas familiares para criar, monitorar OpenAI SDKs e gerenciar trabalhos de ajuste fino com os modelos Amazon Bedrock. Esta página destaca o uso deles APIs para o ajuste fino do reforço.

Capacidades gerais

  • Carregar arquivos de treinamento — Use a API Files para carregar e gerenciar dados de treinamento para trabalhos de ajuste fino

  • Crie tarefas de ajuste fino — Comece a ajustar tarefas com dados de treinamento personalizados e funções de recompensa

  • Listar e recuperar trabalhos — Visualize todos os trabalhos de ajuste fino e obtenha informações detalhadas sobre trabalhos específicos

  • Monitore eventos de trabalho — acompanhe o progresso do ajuste fino por meio de registros de eventos detalhados

  • Pontos de verificação de acesso — Recupere pontos de verificação do modelo intermediário criados durante o treinamento

  • Inferência imediata — Após a conclusão do ajuste fino, use o modelo ajustado resultante para inferência sob demanda por meio do OpenAI compatível com o Amazon Bedrock (API de respostas/preenchimentos de bate-papo) sem etapas adicionais de implantação APIs

  • Fácil migração — Compatível com as bases de código OpenAI SDK existentes

Fluxo de trabalho de reforço e ajuste fino para modelos de peso aberto

Antes de fazer o ajuste fino, certifique-se de ter os pré-requisitos, pois o Amazon Bedrock precisa de permissões específicas para criar e gerenciar o processo de ajuste fino. Para obter informações abrangentes sobre segurança e permissões, consulteAcesso e segurança para modelos de peso aberto.

Execute o ajuste fino do reforço para modelos de peso aberto em 5 etapas:

  1. Carregar conjunto de dados de treinamento — Use a API de arquivos para fazer upload de solicitações no formato necessário (por exemplo, JSONL) com o objetivo de “ajuste fino” como reforço e ajuste fino do conjunto de dados de treinamento. Para obter mais informações, consulte Prepare dados para modelos de peso aberto.

  2. Configurar a função de recompensa — defina um avaliador para pontuar as respostas do modelo com base na exatidão, estrutura, tom ou outros objetivos usando as funções Lambda. Para obter mais informações, consulte Configurando funções de recompensa para modelos de peso aberto.

  3. Crie um trabalho de ajuste fino — Inicie o trabalho de ajuste fino de reforço usando a API OpenAI compatível especificando o modelo básico, o conjunto de dados, a função de recompensa e outras configurações opcionais, como hiperparâmetros. Para obter mais informações, consulte Crie um trabalho de ajuste fino.

  4. Monitore o progresso do treinamento — Acompanhe o status do trabalho, os eventos e as métricas de treinamento usando os trabalhos de ajuste fino. APIs Para obter mais informações, consulte Listar eventos de ajuste fino. Acesse os pontos de verificação do modelo intermediário para avaliar o desempenho em diferentes estágios de treinamento, consulteListar pontos de verificação de ajuste fino.

  5. Execute inferência — Use o ID do modelo ajustado diretamente para inferência por meio de respostas ou conclusões de bate-papo compatíveis com o Amazon Bedrock. OpenAI APIs Para obter mais informações, consulte Execute inferência com um modelo ajustado.

Regiões e endpoints compatíveis

A tabela a seguir mostra os modelos básicos e as regiões que oferecem suporte a ajustes APIs finos OpenAI compatíveis:

Modelos e regiões OpenAI compatíveis para ajustes finos compatíveis APIs
Fornecedor Modelo ID do modelo Nome da região Região Endpoint
OpenAI GPT-OSS-20b openai.gpt-oss-20b Oeste dos EUA (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws
Qwen Qwen3 32B qwen.qwen3-32b Oeste dos EUA (Oregon) us-west-2 bedrock-mantle.us-west-2.api.aws