개방형 모델을 위한 액세스 및 보안 - Amazon Bedrock
사전 조건보상 함수에 대한 Lambda 권한

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

개방형 모델을 위한 액세스 및 보안

강화 미세 조정(RFT)을 시작하기 전에 RFT 관련 작업에 Amazon Bedrock에 필요한 액세스 유형을 이해해야 합니다. RFT는 보상 함수 실행 기능으로 인해 표준 미세 조정 이외의 추가 권한이 필요합니다.

사전 조건

Amazon Bedrock의 OpenAI호환 미세 조정 APIs를 사용하기 전에 다음이 있는지 확인합니다.

  1. Amazon Bedrock에 액세스할 수 있는 적절한 권한이 있는 AWS 계정

  2. 인증 - 다음을 사용하여 인증할 수 있습니다.

    • Amazon Bedrock API 키(OpenAISDK에 필요하고 HTTP 요청에 사용 가능)

    • AWS 자격 증명(HTTP 요청에 지원됨)

    참고

    Amazon Bedrock 단기/장기 API 키를 사용하는 경우 역할에 AmazonBedrockMantleFullAccess 및 AWSLambdaRole이라는 IAM 정책 권한에 대한 액세스 권한이 있는지 확인합니다.

  3. OpenAI SDK(선택 사항) - SDK 기반 요청을 사용하는 경우 OpenAI Python SDK를 설치합니다.

  4. 환경 변수 - 다음 환경 변수를 설정합니다.

    • OPENAI_API_KEY - Amazon Bedrock API 키로 설정

    • OPENAI_BASE_URL - 해당 리전의 Amazon Bedrock 엔드포인트로 설정(예: https://bedrock-mantle.us-west-2.api.aws/v1)

    자세한 내용은 응답 API 단원을 참조하십시오.

  5. 용도가 인 JSONL 파일 형식의 훈련 데이터입니다fine-tune. 자세한 내용은 개방형 모델을 위한 데이터 준비 단원을 참조하십시오.

보상 함수에 대한 Lambda 권한

Lambda 호출 권한을 추가해야 합니다. 다음은 사용할 수 있는 정책 예제입니다.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:reward-function-name"
            ]
        }
    ]
}

Amazon Bedrock 호스팅 모델을 보상 함수를 설정하기 위한 심사자로 사용할 수도 있습니다. 파운데이션 모델을 Lambda 실행 역할에 호출하려면 특정 권한을 추가해야 합니다. Lambda 역할에서 등급 지정을 위해 LLMs에 대해 이러한 관리형 정책을 구성할 수 있습니다. AmazonBedrockLimitedAccess를 참조하세요.

다음은 Invoke API를 사용하여 판단으로 Amazon Bedrock 파운데이션 모델을 호출하는 예입니다.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:foundation-model/*"
            ]
        }
    ]
}