콘텐츠 도메인 4: 책임 있는 AI에 대한 가이드라인

책임 있는 AI의 특징 파악(예: 편향성, 공정성, 포용성, 견고성, 안전성, 진실성)

도구(예: Amazon Bedrock Guardrails)를 사용하여 책임 있는 AI의 특징을 파악하는 방법 설명

모델을 선택할 때의 책임 있는 관행 정의(예: 환경적 고려 사항, 지속 가능성)

GenAI 사용에 따른 법적 위험 파악(예: 지적 재산권 침해 클레임, 편향된 모델 출력, 고객 신뢰 상실, 최종 사용자 위험, 할루시네이션)

데이터세트의 특징 파악(예: 포용성, 다양성, 큐레이팅된 데이터 소스, 균형 잡힌 데이터세트)

편향과 변동의 영향 설명(예: 인구통계학적 그룹에 미치는 영향, 부정확성, 과적합, 과소적합)

편향, 신뢰성, 진실성을 탐지하고 모니터링하기 위한 도구 설명(예: 레이블 품질 분석, 인간의 감사, 하위 그룹 분석, Amazon SageMaker Clarify, SageMaker Model Monitor, Amazon Augmented AI(Amazon A2I))

투명하고 설명 가능한 모델과 투명하지 않고 설명 불가능한 모델의 차이점 설명

투명하고 설명 가능한 모델(예: SageMaker Model Cards, 오픈 소스 모델, 데이터, 라이선싱)을 식별하는 도구 설명

모델 안전성과 투명성 간의 절충점 파악(예: 해석 가능성과 성능 측정)

설명 가능한 AI를 위한 인간 중심 설계 원칙 설명