멀티모달 미세 조정을 위한 데이터 준비

다음은 이해 모델 미세 조정을 위한 데이터 준비에 대한 지침과 요구 사항입니다.

효과적인 훈련 설계 예제

훈련 데이터에서 모델이 보여주길 원하는 동작을 보여줘야 합니다. SFT는 모델에 알아야 할 내용이 아닌 답변하는 방식을 가르칩니다. 주로 사실적 지식을 주입하기 위한 훈련 예제를 만드는 경우(예: “오류 코드 E-45는 무엇을 의미합니까?”의 답변은 “E-45는 센서 제한 시간을 나타냅니다”) 미세 조정 없이 RAG 또는 프롬프트 엔지니어링으로 동일한 결과를 달성할 수 있는지 고려합니다.

소스 데이터를 대화 형식으로 변환할 때는 따라야 하는 원칙:

일반 데이터 변환 패턴

다음 패턴은 일반적인 엔터프라이즈 데이터 형식을 효과적인 SFT 훈련 예제로 변환하는 방법을 보여줍니다.

패턴 1: 분류 또는 조회를 위한 구조화된 레코드

소스 데이터가 issue, cause 및 resolution과 같은 필드가 있는 레코드의 테이블 또는 데이터베이스인 경우 각 레코드를 관련 입력 필드와 어시스턴트 응답을 대상 출력 필드로 사용하여 사용자 질문으로 프레이밍합니다.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a technical support assistant. Given an issue description, identify the most likely root cause and recommended resolution."
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "A user reports: 'Application crashes on startup after the latest update.' What is the likely cause and resolution?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Cause: Incompatible configuration file from the previous version.\nResolution: Delete the local configuration cache and restart the application to regenerate default settings."
        }
      ]
    }
  ]
}

패턴 2: 구조화된 Q&A에 대한 계층적 또는 분류 체계 데이터

소스 데이터가 제품 범주 트리 또는 분류 시스템과 같은 코드 계층 구조 또는 분류 체계인 경우 모델에 계층 구조를 탐색하도록 요청하는 질문을 생성합니다. 시스템 프롬프트 또는 사용자 턴에 분류 컨텍스트를 포함합니다.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a product catalog assistant. Answer questions about product categories and classifications accurately."
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What top-level category does product code 'EL-4520' belong to, and what subcategories does it include?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Product code EL-4520 belongs to the Electronics category. It includes the subcategories: Audio Equipment, Portable Speakers, and Wireless Accessories."
        }
      ]
    }
  ]
}

패턴 3: 절차적 문서를 교육 대화로 변환

소스 데이터가 표준 운영 절차, 런북 또는 단계별 가이드로 구성된 경우 절차를 태스크 중심 질문으로 변환합니다. 사용자는 태스크를 수행하는 방법을 질문하고, 어시스턴트는 일관된 형식으로 단계를 제공합니다.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are an IT operations assistant. Provide step-by-step instructions based on approved runbooks and standard operating procedures."
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "How do I reset a user's multi-factor authentication when they have lost access to their device?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Follow these steps to reset a user's multi-factor authentication:\n1. Verify the user's identity using the approved verification procedure.\n2. Disable the existing MFA configuration in the identity management console.\n3. Generate a new temporary access code and send it to the user's verified email.\n4. Instruct the user to log in with the temporary code and re-enroll their new device.\n5. Confirm the new MFA device is working by requesting a test authentication.\n6. Document the reset in the support ticket."
        }
      ]
    }
  ]
}

예제 데이터세트 형식

다음 예제 데이터세트 형식은 따를 수 있는 가이드를 제공합니다.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a digital assistant with a friendly personality"
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What is the capital of Mars?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Mars does not have a capital. Perhaps it will one day."
        }
      ]
    }
  ]
}

// train.jsonl{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [{
        "text": "You are a smart assistant that answers questions respectfully"
    }],
    "messages": [{
            "role": "user",
            "content": [{
                    "text": "What does the text in this image say?"
                },
                {
                    "image": {
                        "format": "png",
                        "source": {
                            "s3Location": {
                                "uri": "s3://your-bucket/your-path/your-image.png",
                                "bucketOwner": "your-aws-account-id"
                            }
                        }
                    }
                }
            ]
        },
        {
            "role": "assistant",
            "content": [{
                "text": "The text in the attached image says 'LOL'."
            }]
        }
    ]
}

{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [{
        "text": "You are a helpful assistant designed to answer questions crisply and to the point"
    }],
    "messages": [{
            "role": "user",
            "content": [{
                    "text": "How many white items are visible in this video?"
                },
                {
                    "video": {
                        "format": "mp4",
                        "source": {
                            "s3Location": {
                                "uri": "s3://your-bucket/your-path/your-video.mp4",
                                "bucketOwner": "your-aws-account-id"
                            }
                        }
                    }
                }
            ]
        },
        {
            "role": "assistant",
            "content": [{
                "text": "There are at least eight visible items that are white"
            }]
        }
    ]
}

데이터세트 제약 조건

Amazon Nova는 이해 모델에 대한 모델 사용자 지정에 다음과 같은 제약 조건을 적용합니다.