Amazon Nova Forge - Amazon Nova
Pré-requisitosConfiguração inicial do SageMaker HyperPod

Amazon Nova Forge

O Amazon Nova Forge é um serviço inédito que oferece às organizações a maneira mais fácil e econômica de criar seus próprios modelos de fronteira usando o Nova.

O Amazon Nova Forge introduz o conceito de modelos de “treinamento aberto”, que dão às organizações acesso a uma variedade de pontos de verificação de modelos iniciais e a possibilidade de combinar dados proprietários com conjuntos de dados selecionados pela Amazon em cada etapa do treinamento de modelos. Isso permite que os modelos maximizem o aprendizado com dados proprietários e, ao mesmo tempo, minimizem o risco de esquecer habilidades fundamentais, como o raciocínio.

O Nova Forge fornece os principais recursos abaixo:

  • Acessar pontos de verificação em todas as fases do desenvolvimento do modelo e aproveitar os novos modelos Nova antes que eles estejam amplamente disponíveis

  • Combinar seus dados proprietários com dados de treinamento selecionados pelo Amazon Nova

  • Realizar aprendizado por reforço com funções de recompensa em seu ambiente

  • Usar fórmulas prontas e otimizadas para criar com o Nova por meio de fluxos de trabalho visuais ou uma interface de linha de comando

  • Usar o kit de ferramentas de IA responsável para alinhar os modelos às diretrizes de IA responsável do Amazon Nova durante o processo de treinamento e implementar controles de runtime para moderar as respostas do modelo durante a inferência

Pré-requisitos

Inscrever-se no Nova Forge

Para solicitar acesso ao serviço do Amazon Nova Forge, adicione a seguinte tag ao seu perfil do console do IAM: key forge-subscription with value true. Depois de adicionar essa tag ao seu perfil, acesse Console do SageMaker AI > Treinamento e personalização de modelos e clique em Nova Forge. Nessa página, você encontrará detalhes sobre o serviço, informações sobre preços e os recursos. Você pode solicitar a inscrição e depois gerenciá-la nesta página.

  1. O perfil deve ter permissão para chamar a API ListAttachedRolePolicy, e a resposta deve incluir uma política AdministratorAccess ou AmazonSageMakerFullAccess.

  2. O perfil de login deve ter permissão para chamar a API ListRoleTags, e as tags de resposta devem incluir tag.key=forge-subscription.

Outros pré-requisitos

Além disso, certifique-se de que os seguintes pré-requisitos estejam concluídos:

  1. Pré-requisitos gerais

  2. Etapas adicionais para usuários: adicionar grupo de instâncias restritas (RIG) ao seu cluster do SageMaker HyperPod (para concluir, siga as etapas aqui)

Configuração inicial do SageMaker HyperPod

Siga as etapas na documentação da Amazon Web Services para conectar a CLI do HyperPod ao seu cluster. Certifique-se de usar a ramificação nova-lite-2.0-release da CLI do SageMaker HyperPod. Este tópico aborda:

  • Configuração das permissões e políticas do IAM

  • Configuração da CLI do SageMaker HyperPod

  • Criação do cluster com os grupos de instâncias necessários

  • Conectar-se a um cluster

Verificação: depois de concluir a configuração, confirme se você pode executar hyperpod connect-cluster e acessar seu cluster com êxito.