Inhaltsdomäne 4: Richtlinien für eine verantwortungsvolle KI
Die Inhaltsdomäne 4 behandelt die Richtlinien für die verantwortungsvolle KI. Ihr Anteil an den gewerteten Prüfungsinhalten beträgt 14 %.
Aufgaben
Aufgabenstellung 4.1: Erläutere die Entwicklung von KI-Systemen, die verantwortungsvoll sind.
Ziele:
Identifiziere Features der verantwortungsvollen KI (z. B. Verzerrung, Fairness, Inklusivität, Robustheit, Sicherheit, Wahrhaftigkeit).
Erläutere die Verwendung von Tools für die Identifizierung der Features der verantwortungsvollen KI (z. B. Amazon Bedrock Guardrails).
Definiere verantwortungsvolle Praktiken für die Auswahl eines Modells (z. B. Umweltaspekte, Nachhaltigkeit).
Identifiziere die rechtlichen Risiken der Zusammenarbeit mit GenAI (z. B. Klagen wegen Verletzung geistigen Eigentums, verzerrte Modellergebnisse, Verlust des Kundenvertrauens, Endnutzerrisiko, Halluzinationen).
Zähle Merkmale von Datensätzen auf (z. B. Inklusivität, Diversität, kuratierte Datenquellen, ausgewogene Datensätze).
Beschreibe die Auswirkungen von Verzerrungen und Varianzen (z. B. Auswirkungen auf demografische Gruppen, Ungenauigkeit, Überanpassung, Unteranpassung).
Erläutere Tools zur Erkennung und Überwachung von Verzerrung, Vertrauenswürdigkeit und Wahrhaftigkeit (z. B. Analyse der Labelqualität, menschliche Audits, Untergruppenanalyse, Amazon SageMaker Clarify, SageMaker Model Monitor, Amazon Augmented AI [Amazon A2I]).
Aufgabenstellung 4.2: Erkenne die Bedeutung transparenter und erklärbarer Modelle.
Ziele:
Beschreibe die Unterschiede zwischen Modellen, die transparent und erklärbar sind, und Modellen, die nicht transparent und nicht erklärbar sind.
Beschreibe Tools für die Identifizierung transparenter und erklärbarer Modelle (z. B. SageMaker-Modellkarten, Open-Source-Modelle, Daten, Lizenzierung).
Erläutere die Abwägungen zwischen Modellsicherheit und Transparenz (z. B. Messung von Interpretierbarkeit und Leistung).
Beschreibe die Prinzipien des menschenzentrierten Designs für die erklärbare KI.
