Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Post-training Biais des données et des modèles
Post-training l'analyse des biais peut aider à révéler les biais qui pourraient provenir de biais dans les données ou de biais introduits par les algorithmes de classification et de prédiction. Ces analyses prennent en compte les données, y compris les étiquettes, et les prédictions d’un modèle. Vous évaluez la performance en analysant les étiquettes prédites ou en comparant les prédictions aux valeurs cibles observées dans les données par rapport à des groupes ayant des attributs différents. Entre les différentes notions d'équité existantes, chacune exige des métriques de biais différentes pour la mesure.
La difficulté à détecter les concepts juridiques d'équité peut les rendre difficiles à appréhender. Citons, par exemple, le concept américain d’impact disparate selon lequel un groupe, pourtant désigné comme étant une facette moins favorisée d, subit un effet négatif même lorsque l’approche adoptée semble être équitable. Bien que ce type de biais puisse ne pas provenir d'un modèle de machine learning, il peut quand même être détecté par une analyse des biais de post-entraînement.
Amazon SageMaker Clarify essaie de garantir une utilisation cohérente de la terminologie. Pour obtenir la liste des termes et leurs définitions, consultez Amazon SageMaker précise les termes relatifs à la partialité et à l'équité.
Pour plus d'informations sur les mesures de biais post-formation, consultez Découvrez comment Amazon SageMaker Clarify aide à détecter les biais
