Implementación de modelos de Amazon Nova Forge en la detección de abusos de Inferencia de Amazon SageMaker
AWS tiene el compromiso de usar responsablemente la IA. Para ayudar a prevenir un posible uso indebido, al implementar modelos de Amazon Nova Forge en Inferencia de Amazon SageMaker, Inferencia de SageMaker implementa mecanismos automatizados de detección de abusos para identificar las posibles infracciones de la Política de uso aceptable
Nuestros mecanismos de detección de abusos están totalmente automatizados, por lo que no se puede revisar ni acceder a las entradas de usuario ni a las salidas del modelo.
La detección automática de abusos incluye:
-
Categorización de contenido: utilizamos clasificadores para detectar contenido dañino (como el que incita a la violencia) en las entradas del usuario y en las salidas del modelo. Un clasificador es un algoritmo que procesa las entradas y salidas del modelo y asigna el tipo de daño y el nivel de confianza. Podemos utilizar estos clasificadores en el uso del modelo de Amazon Nova Forge. El proceso de clasificación está automatizado y no implica la revisión humana de entradas de usuario ni de salidas del modelo.
-
Identificación de patrones: utilizamos métricas de clasificadores para identificar posibles infracciones y comportamientos recurrentes. Podemos recopilar y compartir métricas de clasificadores anónimas. Inferencia de Amazon SageMaker no almacena las entradas del usuario ni las salidas del modelo.
-
Detección y bloqueo de material de abuso sexual infantil: usted es responsable del contenido que usted y sus usuarios finales suban a Inferencia de Amazon SageMaker y debe asegurarse de que no contenga imágenes ilegales. Para ayudar a detener la difusión de material de abuso sexual infantil, al implementar un modelo de Amazon Nova Forge en Inferencia de Amazon SageMaker, Inferencia de SageMaker puede utilizar mecanismos automatizados de detección de abusos (como la tecnología de coincidencia de hash o los clasificadores) para detectar posible material de abuso sexual infantil. Si Inferencia de Amazon SageMaker detecta posible material de abuso sexual infantil en las entradas de imágenes, bloqueará la solicitud y usted recibirá un mensaje de error automático. Inferencia de Amazon SageMaker también puede remitir una denuncia al Centro Nacional para Menores Desaparecidos y Explotados (NCMEC, por sus siglas en inglés) o a la autoridad pertinente. Nos tomamos muy en serio el CSAM y, por ello, no dejaremos de actualizar nuestros mecanismos de detección, bloqueo y notificación. Es posible que las leyes aplicables le exijan que tome medidas adicionales. Usted es responsable de tomar dichas medidas.
Cuando nuestros mecanismos automatizados de detección de abusos identifiquen posibles infracciones, podemos solicitar información sobre el uso que hace de Inferencia de Amazon SageMaker y sobre el cumplimiento de nuestras condiciones del servicio. En el caso de que no responda, se niegue o no pueda cumplir con estos términos o políticas, AWS podría suspender su acceso a Inferencia de Amazon SageMaker. También es posible que se le facturen los trabajos de inferencia que hayan fallado si nuestras pruebas automatizadas detectan que las respuestas de los modelos no cumplen con nuestros términos y políticas.
Si tiene alguna pregunta, póngase en contacto con AWS Support. Para obtener más información, consulte Preguntas frecuentes sobre Amazon SageMaker
