Dominio de contenido 5: Seguridad, cumplimiento y gobernanza para las soluciones de IA
El dominio 5 cubre la seguridad, el cumplimiento y la gobernanza para las soluciones de IA y representa el 14 % del contenido con puntaje del examen.
Tareas
Enunciado de la tarea 5.1: Explicar los métodos para proteger los sistemas de IA.
Objetivos:
Identificar AWS los servicios y las funciones para proteger los sistemas de IA (por ejemplo, funciones, políticas y permisos de IAM; cifrado; Amazon Macie; AWS PrivateLink; modelo de responsabilidad AWS compartida; Amazon Bedrock AgentCore Identity; política en AgentCore; Amazon Bedrock Guardrails).
Describir los conceptos de citación de fuentes y documentación del origen de los datos (por ejemplo, el linaje de datos, la catalogación de datos y las Tarjetas de modelos de SageMaker).
Describir las prácticas recomendadas para la ingeniería de datos segura (por ejemplo, la evaluación de la calidad de los datos, la implementación de las tecnologías que mejoran la privacidad, el control de acceso a los datos y la integridad de los datos).
Describir las consideraciones de seguridad y privacidad de los sistemas de IA (por ejemplo, la seguridad de las aplicaciones, la detección de amenazas, la gestión de vulnerabilidades, la protección de la infraestructura, la inyección rápida, el cifrado en reposo y en tránsito, la prevención de fugas de datos, el filtrado y la validación de los resultados, los requisitos de registro y seguimiento de auditoría para las interacciones de la IA, la toxicidad).
Describir los métodos de detección de alucinaciones y las técnicas de conexión a tierra para mejorar la precisión de los resultados (por ejemplo, la conexión a tierra de la generación aumentada de recuperación [RAG], la validación de los resultados y la puntuación de confianza).
Enunciado de la tarea 5.2: Reconocer las normas de gobernanza y cumplimiento de los sistemas de IA.
Objetivos:
Identificar los servicios y las características de AWS para contribuir al cumplimiento de la normativa y la gobernanza (por ejemplo, AWS Config, Amazon Inspector, AWS Audit Manager, AWS Artifact, AWS CloudTrail y AWS Trusted Advisor).
Describir las estrategias de gobernanza de datos (por ejemplo, los ciclos de vida de los datos, el registro, la residencia, la supervisión, la observación y la retención).
Describir los procesos para seguir los protocolos de gobernanza (por ejemplo, las políticas, la cadencia de revisión, las estrategias de revisión, los marcos de trabajo de gobernanza como la Matriz de ámbito de seguridad de la IA generativa, los estándares de transparencia y los requisitos de formación de equipos).
