Kit de herramientas de IA responsable y moderación de contenido

Kit de herramientas de IA responsable

Nova Forge proporciona un kit de herramientas de IA responsable que incluye datos de entrenamiento y evaluación para adaptar los modelos con las directrices de IA responsable de Amazon Nova durante el proceso de entrenamiento, y controles de tiempo de ejecución para moderar las respuestas de los modelos durante la inferencia.

Datos de entrenamiento: los casos y escenarios que enfatizan los principios de la IA responsable, los aspectos que se deben tener en cuenta en materia de seguridad y la implementación responsable de la tecnología están disponibles para la mezcla de datos a fin de adaptar los modelos de forma responsable durante el entrenamiento previo continuo.

Evaluaciones: las evaluaciones que prueban la capacidad del modelo para detectar y rechazar contenido inapropiado, dañino o incorrecto están disponibles como una tarea comparativa para determinar la diferencia entre el rendimiento del modelo base y el rendimiento del modelo personalizado.

Controles de tiempo de ejecución: de forma predeterminada, el tiempo de ejecución de Amazon Nova controla las respuestas moderadas del modelo durante la inferencia. Para modificar estos controles de tiempo de ejecución, solicite la configuración de moderación de contenido personalizable de Amazon Nova. Para ello, contacte con un administrador de cuentas de AWS.

La seguridad es una responsabilidad compartida entre AWS y sus clientes. Cambiar el modelo base o utilizar el entrenamiento previo continuo para mejorar el rendimiento en un caso de uso específico puede repercutir en la seguridad, la imparcialidad y otras propiedades del nuevo modelo. Un método de adaptación sólido minimiza los cambios en la seguridad, la equidad y otras protecciones integradas en los modelos base, minimizando además el impacto en el rendimiento del modelo en tareas fuera del ámbito de personalización. Es necesario realizar pruebas integrales de las aplicaciones con conjuntos de datos representativos de los casos de uso para determinar si los resultados de las pruebas cumplen con las expectativas específicas de seguridad, equidad y demás propiedades, además de la eficacia global. Para obtener más información, consulte la Guía de uso responsable de la IA de Amazon Web Services, la Política de IA responsable de Amazon Web Services, la Política de uso aceptable de Amazon Web Services y los Términos de servicio de Amazon Web Services.