콘텐츠 도메인 3: 파운데이션 모델의 적용
도메인 3은 파운데이션 모델의 적용을 다루며 시험에서 채점되는 콘텐츠의 28%를 차지합니다.
작업
작업 설명 3.1: 파운데이션 모델(FM)을 사용하는 애플리케이션의 설계 고려 사항 설명
목표:
사전 훈련된 모델을 선택하기 위한 선택 기준 설명(예: 비용, 모달리티, 지연 시간, 다국어, 모델 크기, 모델 복잡도, 사용자 지정, 입력/출력 길이, 프롬프트 캐싱)
추론 파라미터가 모델 응답에 미치는 영향 설명(예: 온도, 입력/출력 길이)
검색 증강 생성(RAG)을 정의하고 비즈니스에서의 RAG 적용 사례 설명(예: Amazon Bedrock Knowledge Base)
벡터 데이터베이스 내에 임베딩을 저장하는 데 도움이 되는 AWS 서비스 파악(예: Amazon OpenSearch Service, Amazon Aurora, Amazon Neptune, Amazon RDS for PostgreSQL)
FM 사용자 지정에 대한 다양한 접근 방식의 비용 절충점 설명(예: 사전 훈련, 미세 조정, 컨텍스트 내 학습, RAG)
다단계 작업에서 에이전트의 역할 설명(예: Amazon Bedrock 에이전트, 에이전틱 AI, 모델 컨텍스트 프로토콜)
작업 설명 3.2: 효과적인 프롬프트 엔지니어링 기법 선택
목표:
프롬프트 엔지니어링의 개념과 구성 정의(예: 컨텍스트, 명령, 네거티브 프롬프트, 모델 잠재 공간, 프롬프트 라우팅)
프롬프트 엔지니어링을 위한 기법을 정의(예: 생각의 사슬, 제로샷, 싱글샷, 퓨샷, 프롬프트 템플릿)
프롬프트 엔지니어링의 이점과 모범 사례 파악 및 설명(예: 응답 품질 개선, 실험, 가드레일, 발견, 구체성 및 간결성, 여러 코멘트 사용)
프롬프트 엔지니어링의 잠재적 위험과 한계 정의(예: 노출, 중독, 하이재킹, 탈옥)
작업 설명 3.3: 파운데이션 모델의 훈련과 미세 조정 프로세스 설명
목표:
FM 훈련의 주요 요소 설명(예: 사전 훈련, 미세 조정, 지속적인 사전 훈련, 증류)
FM을 미세 조정하는 방법 정의(예: 명령 튜닝, 특정 도메인에 맞춰 모델 조정, 전이 학습, 지속적인 사전 훈련)
FM을 미세 조정하기 위해 데이터를 준비하는 방법 설명(예: 데이터 큐레이션, 거버넌스, 크기, 레이블 지정, 대표성, 사용자 피드백을 통한 강화 학습(RL))
작업 설명 3.4: FM 성능을 평가하는 방법 설명
목표:
FM 성능을 평가하기 위한 접근 방식 결정(예: 인간 평가, 벤치마크 데이터세트, Amazon Bedrock 모델 평가)
FM 성과를 평가하기 위한 관련 지표 파악(예: Recall-Oriented Understudy for Gisting Evaluation(ROUGE), Bilingual Evaluation Understudy(BLEU), BERTScore)
FM이 비즈니스 목표에 효과적으로 부합하는지 판단(예: 생산성, 사용자 참여, 태스크 엔지니어링)
FM(예: RAG, 에이전트, 워크플로)로 구축된 애플리케이션의 성능을 평가하는 접근 방식 파악