콘텐츠 도메인 3: AI 안전, 보안 및 거버넌스
작업 3.1: 입력 및 출력 안전 제어 구현
기술 3.1.1: FM에 대한 유해한 사용자 입력으로부터 보호하기 위한 포괄적인 콘텐츠 안전 시스템 개발(예: 콘텐츠 필터링에 Amazon Bedrock 가드레일 사용, 사용자 지정 조정 워크플로 구현에 Step Functions 및 Lambda 함수 사용, 실시간 검증 메커니즘 구현)
기술 3.1.2: 유해한 출력을 방지하는 콘텐츠 안전 프레임워크 만들기(예: Amazon Bedrock 가드레일을 사용하여 응답 필터링, 콘텐츠 조정 및 유해성 탐지를 위한 특수 FM 평가, 결정적 결과를 보장하기 위한 텍스트-SQL 변환)
기술 3.1.3: FM 응답에서 할루시네이션을 줄이기 위한 정확도 검증 시스템 개발(예: Amazon Bedrock Knowledge Base를 사용하여 응답 확보 및 검증을 위한 사실 확인, 신뢰도 점수 및 의미론적 유사성 검색 수행, 구조화된 출력을 적용하는 JSON Schema 사용)
기술 3.1.4: 심층 방어 안전 시스템을 구축하여 FM 오용에 대한 포괄적인 보호 제공(예: Amazon Comprehend를 사용하여 사전 처리 필터 개발, Amazon Bedrock을 사용하여 모델 기반 가드레일 구현, Lambda 함수를 사용하여 사후 처리 검증 수행, API 응답 필터링을 구현하기 위해 API Gateway 사용)
기술 3.1.5: 지능형 위협 탐지를 구현하여 적대적 입력 및 보안 취약성으로부터 보호(예: 프롬프트 인젝션 및 탈옥 탐지 메커니즘, 입력 삭제 및 콘텐츠 필터, 안전 분류기, 자동화된 적대적 테스트 워크플로 사용)
작업 3.2: 데이터 보안 및 개인 정보 보호 제어 구현
기술 3.2.1: 보호된 AI 환경을 개발하여 FM 배포를 위한 포괄적인 보안 보장(예: VPC 엔드포인트를 사용하여 네트워크 격리, IAM 정책을 사용하여 보안 데이터 액세스 패턴 적용, AWS Lake Formation을 사용하여 세분화된 데이터 액세스 제공, CloudWatch를 사용하여 데이터 액세스 모니터링)
기술 3.2.2: FM 상호 작용 중에 민감한 정보를 보호하기 위한 개인 정보 보호 시스템 개발(예: Amazon Comprehend 및 Amazon Macie를 사용하여 개인 식별 정보(PII) 탐지, Amazon Bedrock 네이티브 데이터 프라이버시 기능, 출력을 필터링하는 Amazon Bedrock 가드레일 사용, 데이터 보존 정책을 구현하기 위한 Amazon S3 수명 주기 구성)
기술 3.2.3: 프라이버시 중심의 AI 시스템을 구축하여 FM 유용성과 효율성을 유지하면서 사용자 개인 정보 보호(예: 데이터 마스킹 기술, Amazon Comprehend PII 탐지, 민감한 정보에 대한 익명화 전략, Amazon Bedrock 가드레일 사용)
작업 3.3: AI 거버넌스 및 규정 준수 메커니즘 구현
기술 3.3.1: FM 배포의 규정 준수를 보장하기 위한 규정 준수 프레임워크 개발(예: SageMaker AI를 사용하여 프로그래밍 모델 카드 개발, AWS Glue를 사용하여 데이터 계보 자동 추적, 체계적인 데이터 소스 속성을 위한 메타데이터 태깅, CloudWatch Logs를 사용하여 포괄적인 의사 결정 로그 수집)
기술 3.3.2: GenAI 애플리케이션에서 추적성을 유지하기 위해 데이터 소스 추적 구현(예: AWS Glue Data Catalog를 사용하여 데이터 소스 등록, FM 생성 콘텐츠의 소스 속성을 위한 메타데이터 태깅, 감사 로깅에 CloudTrail 사용)
기술 3.3.3: FM 구현을 일관되게 감독할 수 있는 조직 거버넌스 시스템 구축(예: 조직 정책, 규제 요구 사항 및 책임 있는 AI 원칙에 부합하는 포괄적인 프레임워크 사용)
기술 3.3.4: 지속적인 모니터링 및 고급 거버넌스 제어를 구현하여 안전 감사 및 규제 대비 지원(예: 오용, 드리프트 및 정책 위반에 대한 자동 감지, 바이어스 드리프트 모니터링, 자동화된 경고 및 수정 워크플로, 토큰 수준 수정, 응답 로깅, AI 출력 정책 필터 사용)
작업 3.4: 책임 있는 AI 원칙 구현
기술 3.4.1: FM 출력에서 투명한 AI 시스템 개발(예: 추론 디스플레이를 사용하여 사용자 대상 설명 제공, CloudWatch를 사용하여 신뢰도 지표 수집 및 불확실성 정량화, 소스 속성을 위한 증거 제시, 추론 추적을 제공하는 Amazon Bedrock 에이전트 추적 사용)
기술 3.4.2: 공정성 평가를 적용하여 편향되지 않은 FM 출력 보장(예: CloudWatch, Amazon Bedrock Prompt Management 및 Amazon Bedrock Prompt Flows에서 사전 정의된 공정성 지표를 사용하여 체계적인 A/B 테스트 수행, 평가형 LLM 솔루션을 갖춘 Amazon Bedrock으로 자동화된 모델 평가 수행)
기술 3.4.3: 책임 있는 AI 사례를 준수하기 위한 정책 준수 AI 시스템 개발(예: 정책 요구 사항에 기반한 Amazon Bedrock 가드레일, FM 제한을 문서화하는 모델 카드, 자동화된 규정 준수 검사를 수행하는 Lambda 함수 사용)
