# 責任ある AI
<a name="nova-forge-responsible-ai"></a>

**コンテンツモデレーション設定**: Amazon Nova Forge のお客様は、Amazon Nova Lite 1.0 および Pro 1.0 モデルのカスタマイズ可能なコンテンツモデレーション設定 (CCMS) にアクセスできます。CCMS を使用すると、責任ある AI の基本的な保護を維持しながら、特定のビジネス要件に合わせてコンテンツモデレーションコントロールを調整できます。ビジネスユースケースが CCMS の対象となるかどうかを判断するには、Amazon Web Services アカウントマネージャーにお問い合わせください。

Amazon Nova Forge には、モデルを Amazon Nova の責任ある AI ガイドラインに合わせるのに役立つトレーニングデータ、評価ベンチマーク、ランタイムコントロールを含む責任ある AI ツールキットが用意されています。

**トレーニングデータ**: データミキシングの「RAI」カテゴリには、責任ある AI の原則、安全上の考慮事項、責任あるテクノロジーのデプロイに焦点を当てたケースとシナリオが含まれています。これらを使用して、継続的な事前トレーニング中にモデルを責任を持って調整します。

**評価**: ベンチマークタスクは、不適切、有害、または誤ったコンテンツを検出して拒否するモデルの能力をテストするために使用できます。これらの評価を使用して、ベースモデルのパフォーマンスとカスタムモデルのパフォーマンスの違いを測定します。

**ランタイムコントロール**: デフォルトでは、Amazon Nova のランタイムは推論中に中程度のモデルレスポンスを制御します。特定のビジネスケースでこれらのコントロールを変更するには、Amazon Web Services アカウントマネージャーに連絡して、カスタマイズ可能なコンテンツモデレーション設定 (CCMS) をリクエストします。

## 安全性に対する責任の共有
<a name="shared-responsibility"></a>

安全性は、Amazon Web Services とお客様の双方が共有する責任です。ベースモデルを変更するか、継続的な事前トレーニングを使用して特定のユースケースのパフォーマンスを向上させると、新しいモデルの安全性、公平性、その他の特性に影響を与える可能性があります。

基本モデルに組み込まれている安全性、公平性、その他の保護への変更を最小限に抑えつつ、モデルがカスタマイズされていないタスクに対するパフォーマンスへの影響も最小限にするために、堅牢な適応方法を使用しています。

以下の責任はユーザーにあります:
+ ユースケースを代表するデータセットを用いた、アプリケーションのエンドツーエンドテスト
+ テスト結果が安全性、公平性、その他の特性、および全体的な有効性に対する特定の期待を満たしているかどうかを判断する

詳細については、「Amazon Web Services の責任ある AI 使用ガイド」、「Amazon Web Services の責任ある AI ポリシー」、「AWS 利用規定ポリシー」、および使用する予定のサービスの「AWS サービス規約」を参照してください。

## カスタマイズ可能なコンテンツモデレーション設定 (CCMS)
<a name="ccms"></a>

CCMS を使用すると、AI の責任ある使用を保証する必須で設定不可能なコントロールを維持しながら、ビジネス要件に関連するコントロールを調整できます。

これらの設定では、以下の 3 つの使用可能な設定を使用してコンテンツを生成できます。
+ セキュリティのみ
+ 安全、機密性の高いコンテンツ、公平性の組み合わせ
+ すべてのカテゴリの組み合わせ

4 つのコンテンツモデレーションカテゴリは以下のとおりです。

1. **安全** — 危険な活動、武器、規制物質をカバーします

1. **機密性の高いコンテンツ** — 冒涜、ヌード、いじめが含まれます

1. **公平性** — バイアスと文化的考慮事項を扱います

1. **セキュリティ** — サイバー犯罪、マルウェア、悪意のあるコンテンツが含まれます

CCMS の設定に関係なく、Amazon Nova は、児童への危害を防ぎ、プライバシーを維持するためのコントロールなど、AI の責任ある使用を確保するために、必須で設定不可能なコントロールを適用します。

### CCMS の使用に関する推奨事項
<a name="ccms-recommendations"></a>

CCMS を使用する場合は、継続的事前トレーニング (CPT) を使用し、GA/FINAL チェックポイントではなく、RAI 前のアライメントチェックポイント (PRE-TRAINING-Early、PRE-TRAINING-Mid、または PRE-TRAINING-Final) から開始することをお勧めします。これらのチェックポイントは、安全トレーニングを受けたり、特定の RAI 動作に誘導されたりしていないため、コンテンツモデレーション要件に合わせてより効率的にカスタマイズできます。

**ヒント**: データミキシングで CCMS を使用する場合は、特定のコンテンツモデレーション要件に合わせて nova\$1data 設定の「RAI」カテゴリの割合を調整することを検討してください。

### 可用性
<a name="ccms-availability"></a>

CCMS は現在、以下を使用する承認済みのお客様にご利用いただけます。
+ Nova Lite 1.0 および Pro 1.0 モデル
+ Amazon Bedrock オンデマンド推論
+ us-east-1 (バージニア北部) リージョン

Forge モデルの CCMS を有効にするには、Amazon Web Services アカウントマネージャーにお問い合わせください。