Amazon Nova Forge - Amazon Nova
사전 조건초기 SageMaker HyperPod 설정

Amazon Nova Forge

Amazon Nova Forge는 Nova를 사용하여 프론티어 모델을 빌드하는 가장 쉽고 비용 효율적인 방법을 조직에 제공하는 최초의 서비스입니다.

Amazon Nova Forge는 '개방 훈련' 모델의 개념을 도입하여 다양한 초기 모델 체크포인트에 대한 액세스 권한과 모델 훈련의 모든 단계에서 독점 데이터를 Amazon에서 선별한 데이터세트와 혼합할 수 있는 기능을 조직에 제공합니다. 이를 통해 모델은 추론과 같은 기초적인 기술을 잊을 위험을 최소화하면서 독점 데이터에서 학습을 극대화할 수 있습니다.

Nova Forge는 다음과 같은 주요 기능을 제공합니다.

  • 모델 개발의 모든 단계에서 체크포인트에 액세스하고 새로운 Nova 모델을 광범위하게 사용하기 전에 활용

  • 독점 데이터를 Amazon Nova에서 선별한 훈련 데이터와 혼합

  • 환경에서 보상 기능을 사용하여 강화 학습 수행

  • 시각적 워크플로 또는 명령줄 인터페이스를 통해 Nova를 사용해 빌드하도록 최적화된 푸시 버튼 레시피 사용

  • 책임 있는 AI 툴킷을 사용하여 훈련 프로세스 중에 모델을 Amazon Nova의 책임 있는 AI 지침에 맞추고 추론 중에 모델 응답을 조정하기 위한 런타임 제어를 구현합니다.

사전 조건

Nova Forge 구독

Amazon Nova Forge 서비스에 대한 액세스를 요청하려면 콘솔 IAM 역할에 키가 forge-subscription이고 값이 true인 태그를 추가합니다. 이 태그를 역할에 추가한 후 SageMaker AI 콘솔 > 모델 훈련 및 사용자 지정으로 이동하여 Nova Forge를 클릭합니다. 이 페이지에서는 서비스, 요금 정보 및 기능에 대한 세부 정보를 확인할 수 있습니다. 이 페이지에서 구독을 요청한 다음 구독을 관리할 수 있습니다.

  1. 역할에는 ListAttachedRolePolicy API를 직접 호출할 권한이 있어야 하며 응답에는 AdministratorAccess 또는 AmazonSageMakerFullAccess 정책이 포함되어야 합니다.

  2. 로그인 역할에는 ListRoleTags API를 직접 호출할 권한이 있어야 하며 응답 태그에는 tag.key=forge-subscription이 포함되어야 합니다.

기타 사전 조건

또한 다음 사전 조건이 완료되었는지 확인합니다.

  1. 일반적인 사전 요구 사항

  2. 사용자를 위한 추가 단계: SageMaker HyperPod 클러스터에 제한된 인스턴스 그룹(RIG) 추가(완료하려면 여기 단계 수행)

초기 SageMaker HyperPod 설정

Amazon Web Services 설명서의 단계에 따라 HyperPod CLI를 클러스터에 연결합니다. SageMaker HyperPod CLI의 nova-lite-2.0-release 브랜치를 사용해야 합니다. 이 주제에서는 다음 내용을 다룹니다.

  • IAM 권한 및 정책 설정

  • SageMaker HyperPod CLI 구성

  • 필요한 인스턴스 그룹을 사용하여 클러스터 생성

  • 클러스터에 연결

확인: 설정을 완료한 후 hyperpod connect-cluster를 성공적으로 실행하고 클러스터에 액세스할 수 있는지 확인합니다.