Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.
Post-training Sesgo de datos y modelos
Post-training El análisis de sesgos puede ayudar a revelar los sesgos que podrían provenir de sesgos en los datos o de sesgos introducidos por los algoritmos de clasificación y predicción. Estos análisis tienen en cuenta los datos, incluidas las etiquetas y las predicciones de un modelo. El rendimiento se evalúa analizando las etiquetas predichas o comparando las predicciones con los valores objetivo observados en los datos con respecto a grupos con atributos diferentes. Existen diferentes nociones de equidad, cada una de las cuales requiere métricas de sesgo diferentes para medirlas.
Existen conceptos jurídicos de equidad que pueden no ser fáciles de captar porque son difíciles de detectar. Por ejemplo, el concepto estadounidense de impacto dispar que se produce cuando un grupo, denominado faceta menos favorecida d, sufre un efecto adverso incluso cuando el enfoque adoptado parece justo. Es posible que este tipo de sesgo no se deba a un modelo de machine learning, pero aún así puede detectarse mediante un análisis del sesgo posterior al entrenamiento.
Amazon SageMaker Clarify intenta garantizar un uso coherente de la terminología. Para obtener una lista de términos y sus definiciones, consulte Amazon SageMaker aclara los términos de sesgo y equidad.
Para obtener información adicional sobre las métricas de sesgo posteriores a la formación, consulte Descubra cómo Amazon SageMaker Clarify ayuda a detectar las medidas de sesgo
