Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# Blokir kata-kata dan percakapan berbahaya dengan filter konten
Amazon Bedrock Guardrails mendukung filter konten untuk membantu mendeteksi dan memfilter input pengguna berbahaya dan output yang dihasilkan model dalam bahasa alami serta konten terkait kode di tingkat Standar. Filter konten didukung di seluruh kategori berikut:
**Benci**
+ Menjelaskan petunjuk masukan dan tanggapan model yang mendiskriminasi, mengkritik, menghina, mencela, atau merendahkan seseorang atau kelompok berdasarkan identitas (seperti ras, etnis, jenis kelamin, agama, orientasi seksual, kemampuan, dan asal negara).
**Penghinaan**
+ Menjelaskan petunjuk masukan dan respons model yang mencakup bahasa yang merendahkan, mempermalukan, mengejek, menghina, atau meremehkan. Jenis bahasa ini juga diberi label sebagai bullying.
**Seksual**
+ Menjelaskan petunjuk input dan respons model yang menunjukkan minat seksual, aktivitas, atau gairah menggunakan referensi langsung atau tidak langsung ke bagian tubuh, sifat fisik, atau jenis kelamin.
**Kekerasan**
+ Menjelaskan petunjuk masukan dan respons model yang mencakup pemuliaan, atau ancaman untuk menimbulkan rasa sakit fisik, luka, atau cedera terhadap seseorang, kelompok, atau benda.
**Pelanggaran**
+ Menjelaskan petunjuk masukan dan tanggapan model yang mencari atau memberikan informasi tentang terlibat dalam kegiatan kriminal, atau merugikan, menipu, atau mengambil keuntungan dari seseorang, kelompok atau institusi.
## Konfigurasikan filter konten untuk pagar pembatas
Anda dapat mengonfigurasi filter konten untuk pagar pembatas dengan menggunakan atau Konsol Manajemen AWS Amazon Bedrock API.
------
#### [ Console ]
1. Masuk ke Konsol Manajemen AWS dengan identitas IAM yang memiliki izin untuk menggunakan konsol Amazon Bedrock. Kemudian, buka konsol Amazon Bedrock di [https://console.aws.amazon.com/bedrock](https://console.aws.amazon.com/bedrock).
1. **Dari panel navigasi kiri, pilih **Guardrails, lalu pilih Create guardrail**.**
1. Untuk **Memberikan halaman detail pagar pembatas**, lakukan hal berikut:
1. Di bagian **detail Guardrail**, berikan **Nama** dan **Deskripsi** opsional untuk pagar pembatas.
1. Untuk **Pesan untuk permintaan yang diblokir**, masukkan pesan yang ditampilkan saat pagar pembatas diterapkan. Pilih kotak centang **Terapkan pesan yang diblokir yang sama untuk respons** untuk menggunakan pesan yang sama saat pagar pembatas diterapkan pada respons.
1. (Opsional) Untuk mengaktifkan [inferensi lintas wilayah untuk pagar pembatas Anda, perluas inferensi](guardrails-cross-region.md), lalu pilih **Aktifkan **Cross-Region inferensi** lintas** wilayah untuk pagar pembatas Anda. Pilih profil pagar pembatas yang menentukan tujuan AWS Region di mana permintaan inferensi pagar pembatas dapat diarahkan.
1. (Opsional) Secara default, pagar pembatas Anda dienkripsi dengan file. Kunci yang dikelola AWS Untuk menggunakan kunci KMS yang dikelola pelanggan Anda sendiri, perluas **pilihan kunci KMS** dan pilih kotak centang **Sesuaikan pengaturan enkripsi (lanjutan)**.
Anda dapat memilih AWS KMS kunci yang ada atau pilih **Buat AWS KMS kunci** untuk membuat yang baru.
1. **(Opsional) Untuk menambahkan tag ke pagar pembatas Anda, perluas Tag.** Kemudian pilih **Tambahkan tag baru** untuk setiap tag yang Anda tentukan.
Untuk informasi selengkapnya, lihat [Menandai sumber daya Amazon Bedrock](tagging.md).
1. Pilih **Berikutnya**.
1. Pada halaman **Konfigurasi filter konten**, atur seberapa kuat Anda ingin memfilter konten yang terkait dengan kategori yang ditentukan [Blokir kata-kata dan percakapan berbahaya dengan filter konten](#guardrails-content-filters) dengan melakukan hal berikut:
1. Pilih **Konfigurasikan filter kategori berbahaya**. Pilih and/or **Gambar** **Teks** untuk memfilter konten teks atau gambar dari petunjuk atau tanggapan terhadap model. Pilih **Tidak Ada, Rendah, Sedang, atau Tinggi** untuk tingkat filtrasi yang ingin Anda terapkan untuk setiap kategori. Anda dapat memilih untuk memiliki tingkat filter yang berbeda untuk permintaan atau tanggapan. Anda dapat memilih filter untuk serangan cepat dalam kategori berbahaya. Konfigurasikan seberapa ketat yang Anda inginkan setiap filter untuk petunjuk yang diberikan pengguna ke model.
1. Pilih **Blokir** atau **Deteksi (tanpa tindakan)** untuk menentukan tindakan apa yang dilakukan pagar pembatas Anda saat mendeteksi konten berbahaya dalam permintaan dan tanggapan.
Untuk informasi selengkapnya, lihat [Opsi untuk menangani konten berbahaya yang terdeteksi oleh Amazon Bedrock Guardrails](guardrails-harmful-content-handling-options.md).
1. Untuk **Setel ambang batas**, pilih **Tidak Ada, Rendah, Sedang, atau Tinggi** untuk tingkat filtrasi yang ingin Anda terapkan ke setiap kategori.
Anda dapat memilih untuk memiliki tingkat filter yang berbeda untuk permintaan dan tanggapan.
1. Untuk **tingkat filter Konten**, pilih tingkat perlindungan yang ingin digunakan pagar pembatas untuk memfilter permintaan dan tanggapan berbasis teks. Untuk informasi selengkapnya, lihat [Tingkatan perlindungan untuk kebijakan pagar pembatas](guardrails-tiers.md).
1. Pilih **Berikutnya** untuk mengonfigurasi kebijakan lain sesuai kebutuhan atau **Lewati ke Tinjauan dan buat** untuk menyelesaikan pembuatan pagar pembatas Anda.
1. Tinjau pengaturan untuk pagar pembatas Anda.
1. Pilih **Edit** di bagian mana pun yang ingin Anda ubah.
1. Setelah selesai mengonfigurasi kebijakan, pilih **Buat untuk membuat** pagar pembatas.
------
#### [ API ]
Konfigurasikan filter konten untuk pagar pembatas Anda dengan mengirimkan permintaan. [CreateGuardrail](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_CreateGuardrail.html) Format permintaan adalah sebagai berikut:
```
POST /guardrails HTTP/1.1
Content-type: application/json
{
"blockedInputMessaging": "string",
"blockedOutputsMessaging": "string",
"contentPolicyConfig": {
"filtersConfig": [
{
"inputAction": "BLOCK | NONE",
"inputModalities": [ "TEXT" ],
"inputStrength": "NONE | LOW | MEDIUM | HIGH",
"outputStrength": "NONE | LOW | MEDIUM | HIGH",
"type": "SEXUAL | VIOLENCE | HATE | INSULTS | MISCONDUCT"
}
],
"tierConfig": {
"tierName": "CLASSIC | STANDARD"
}
},
"crossRegionConfig": {
"guardrailProfileIdentifier": "string"
},
"description": "string",
"name": "string"
}
```
+ Tentukan `name` dan `description` untuk pagar pembatas.
+ Tentukan pesan kapan pagar pembatas berhasil memblokir prompt atau respons model di bidang `blockedInputMessaging` dan`blockedOutputsMessaging`.
+ Tentukan kekuatan filter untuk kategori berbahaya yang tersedia `contentPolicyConfig` objek.
Setiap item dalam `filtersConfig` daftar berkaitan dengan kategori berbahaya. Untuk informasi selengkapnya, lihat [Blokir kata-kata dan percakapan berbahaya dengan filter konten](#guardrails-content-filters). Untuk informasi selengkapnya tentang bidang dalam filter konten, lihat [ContentFilter](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_ContentFilter.html).
+ (Opsional) Untuk `inputAction` dan`outputAction`, tentukan tindakan pagar pembatas Anda saat mendeteksi konten berbahaya dalam permintaan dan tanggapan.
+ (Opsional) Tentukan tindakan yang akan diambil ketika konten berbahaya terdeteksi dalam permintaan menggunakan `inputAction` atau tanggapan menggunakan`outputAction`. Pilih `BLOCK` untuk memblokir konten dan mengganti dengan pesan yang diblokir, atau `NONE` tidak mengambil tindakan selain mengembalikan informasi deteksi. Untuk informasi selengkapnya, lihat [Opsi untuk menangani konten berbahaya yang terdeteksi oleh Amazon Bedrock Guardrails](guardrails-harmful-content-handling-options.md).
+ Tentukan kekuatan filter untuk petunjuk di `inputStrength` lapangan dan untuk respons model di `outputStrength` lapangan.
+ Tentukan kategori di `type` lapangan.
+ (Opsional) Tentukan tingkat perlindungan untuk pagar pembatas Anda di objek di dalam objek. `tierConfig` `contentPolicyConfig` Pilihan termasuk `STANDARD` dan `CLASSIC` tingkatan.
Untuk informasi selengkapnya, lihat [Tingkatan perlindungan untuk kebijakan pagar pembatas](guardrails-tiers.md).
+ (Opsional) Untuk mengaktifkan [inferensi lintas wilayah](guardrails-cross-region.md), tentukan profil pagar pembatas di objek. `crossRegionConfig` Ini diperlukan saat menggunakan `STANDARD` tier.
Format responsnya terlihat seperti ini:
```
HTTP/1.1 202
Content-type: application/json
{
"createdAt": "string",
"guardrailArn": "string",
"guardrailId": "string",
"version": "string"
}
```
------