View a markdown version of this page

Implantação de modelos do Amazon Nova Forge na detecção de abusos da Inferência do Amazon SageMaker - Amazon Nova

Implantação de modelos do Amazon Nova Forge na detecção de abusos da Inferência do Amazon SageMaker

A AWS está comprometida com o uso responsável da IA. Para ajudar a evitar possíveis usos indevidos, quando você implementa modelos do Amazon Nova Forge na Inferência do Amazon SageMaker, ela implementa mecanismos automatizados de detecção de abusos para identificar possíveis violações da Política de uso aceitável (AUP) e dos Termos de Serviço da AWS, incluindo a Política de IA responsável.

Nossos mecanismos de detecção de abuso são totalmente automatizados, portanto não há análise humana nem acesso às entradas do usuário ou às saídas do modelo.

A detecção automática de abuso inclui:

  • Categorizar o conteúdo: usamos classificadores para detectar conteúdo prejudicial (como conteúdo que incita à violência) nas entradas dos usuários e nas saídas dos modelos. Um classificador é um algoritmo que processa entradas e saídas do modelo e atribui o tipo de dano e nível de confiança. Podemos executar esses classificadores no uso de modelos do Amazon Nova Forge. O processo de classificação é automatizado e não envolve análise humana das entradas ou saídas do usuário modelo.

  • Identificar padrões: usamos métricas classificadoras para identificar possíveis violações e comportamentos recorrentes. Podemos compilar e compartilhar métricas de classificadores anonimizadas. A Inferência do Amazon SageMaker não armazena a entrada do usuário ou a saída do modelo.

  • Detecção e bloqueio de material de abuso sexual infantil (CSAM): você é responsável pelo conteúdo que carrega (e de seus usuários finais) na Inferência do Amazon SageMaker e deve garantir que ela esteja livre de imagens ilegais. Para ajudar a impedir a disseminação de CSAM, ao implantar um modelo do Amazon Nova Forge na Inferência do Amazon SageMaker, ela pode usar mecanismos automatizados de detecção de abuso (como tecnologia de correspondência de hash ou classificadores) para detectar um possível CSAM. Se a Inferência do Amazon SageMaker detectar um possível CSAM nas entradas de imagens do cliente, ela bloqueará a solicitação e enviará uma mensagem de erro automática. A Inferência do Amazon SageMaker também pode registrar uma denúncia no Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) ou em uma autoridade relevante. Levamos o CSAM a sério e continuaremos a atualizar nossos mecanismos de detecção, bloqueio e denúncia. De acordo com as leis aplicáveis, o cliente pode ser obrigado a tomar medidas adicionais e é responsável por essas medidas.

Quando nossos mecanismos automatizados de detecção de abusos identificarem possíveis violações, poderemos solicitar informações sobre o seu uso da Inferência do Amazon SageMaker e sua conformidade com nossos termos de serviço. Caso você se mostre omisso, relutante ou incapaz de cumprir com esses termos ou políticas, a AWS poderá suspender seu acesso à Inferência do Amazon SageMaker. Além disso, você também poderá ser cobrado pela falha no processamento de inferência se nossos testes automatizados detectarem que as respostas do modelo são inconsistentes com nossos termos e políticas.

Em caso de dúvidas, entre em contato com o AWS Support. Para obter mais informações, consulte Perguntas frequentes sobre o Amazon SageMaker.