Amazon SageMaker 推論不正検出での Amazon Nova Forge モデルのデプロイ

コンテンツの分類 – 分類子を使用して、ユーザー入力やモデル出力に含まれる有害なコンテンツ (暴力を扇動するコンテンツなど) を検出します。分類子は、モデルの入力と出力を処理し、攻撃の種類と信頼度を割り当てるアルゴリズムです。Amazon Nova Forge モデルの使用時にこれらの分類子を実行する場合があります。分類プロセスは自動化されており、ユーザー入力やモデル出力を人間が確認する必要はありません。

パターンの特定 – 分類メトリクスを使用して、違反の芽や繰り返し発生する動作を特定します。匿名化された分類子メトリクスをコンパイルして共有する場合があります。Amazon SageMaker Inference はユーザー入力またはモデル出力を保存しません。

児童性的虐待コンテンツ (CSAM) の検出とブロック – お客様は、お客様自身 (およびエンドユーザー) が Amazon SageMaker 推論にアップロードするコンテンツについて責任を負い、こうした違法な画像が含まれるコンテンツを確実に排除する必要があります。CSAM の拡散を防止するために、Amazon SageMaker 推論で Amazon Nova Forge モデルをデプロイする際、SageMaker 推論は自動不正検出メカニズム (ハッシュマッチング技術や分類子など) を使用して、CSAM とみられるコンテンツの検出が行われる場合があります。画像入力に CSAM とみられるコンテンツが検出されると、Amazon SageMaker 推論はリクエストをブロックし、ユーザーに自動エラーメッセージを送信します。Amazon SageMaker 推論は、National Center for Missing and Exploited Children (NCMEC) または関連機関に報告を提出する場合もあります。当社では、CSAM の問題を重く受け止め、検出、ブロック、報告のメカニズムを引き続き更新していきます。お客様は、適用される法律により追加のアクションを求められる場合があり、こうしたアクションの実施は、お客様の責任となります。