Domínio do conteúdo 4: Diretrizes de IA responsável
O domínio 4 abrange as diretrizes da IA responsável e representa 14% do conteúdo pontuado no exame.
Tarefas
Declaração de tarefa 4.1: Explicar o desenvolvimento de sistemas de IA que são responsáveis.
Objetivos:
Identificar as características da IA responsável (por exemplo, viés, imparcialidade, inclusão, robustez, segurança e veracidade).
Explicar como usar ferramentas para identificar recursos de IA responsável (por exemplo, Barreiras de Proteção para Amazon Bedrock).
Definir as práticas responsáveis para escolher um modelo (por exemplo, considerações ambientais e sustentabilidade).
Identificar os riscos legais de trabalhar com IA generativa (por exemplo, reivindicações relacionadas à violação de propriedade intelectual, resultados de modelos tendenciosos, perda da confiança do cliente, risco do usuário final e alucinações).
Identificar as características dos conjuntos de dados (por exemplo, inclusão, diversidade, fontes de dados com curadoria e conjuntos de dados balanceados).
Descrever os efeitos do viés e da variância (por exemplo, efeitos em grupos demográficos, imprecisão, sobreajuste e subajuste).
Descrever as ferramentas para detectar e monitorar vieses, confiabilidade e veracidade [por exemplo, análise da qualidade do rótulo, auditorias humanas, análise de subgrupos, Amazon SageMaker Clarify, Monitor de Modelos do SageMaker e Amazon Augmented AI (Amazon A2I)].
Declaração de tarefa 4.2: Reconhecer a importância de modelos transparentes e explicáveis.
Objetivos:
Descrever as diferenças entre modelos que são transparentes e explicáveis e os que não são.
Descrever as ferramentas para identificar modelos transparentes e explicáveis (por exemplo, Cartões de Modelos do SageMaker, modelos de código aberto, dados e licenciamento).
Identificar as concessões entre a segurança e a transparência do modelo (por exemplo, avaliação do desempenho e da interpretabilidade).
Descrever os princípios do design centrado no ser humano em prol da IA explicável.
