View a markdown version of this page

Wilayah dan model yang Didukung untuk profil inferensi - Amazon Bedrock
Profil inferensi lintas wilayah yang didukungWilayah dan model yang Didukung untuk profil inferensi aplikasi

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Wilayah dan model yang Didukung untuk profil inferensi

Untuk daftar kode Wilayah dan titik akhir yang didukung di Amazon Bedrock, lihat titik akhir dan kuota Amazon Bedrock. Topik ini menjelaskan profil inferensi yang telah ditentukan sebelumnya yang dapat Anda gunakan dan Wilayah serta model yang mendukung profil inferensi aplikasi.

catatan

Mencari ID profil inferensi untuk model tertentu? ID profil inferensi setiap model dan ketersediaan Regional sekarang didokumentasikan pada halaman detail model. Kunjungi model sekilas dan pilih model yang Anda minati.

Profil inferensi lintas wilayah yang didukung

Anda dapat melakukan inferensi lintas wilayah dengan profil inferensi lintas wilayah (ditentukan sistem). Cross-Region inferensi memungkinkan Anda mengelola semburan lalu lintas yang tidak direncanakan dengan mulus dengan menggunakan komputasi di berbagai tempat. Region AWS Dengan inferensi lintas wilayah, Anda dapat mendistribusikan lalu lintas di beberapa. Region AWS

Cross-region Profil inferensi (ditentukan sistem) dinamai menurut model yang mereka dukung dan didefinisikan oleh Wilayah yang mereka dukung. Untuk memahami cara profil inferensi lintas wilayah menangani permintaan Anda, tinjau definisi berikut:

  • Wilayah Sumber — Wilayah tempat Anda membuat permintaan API yang menentukan profil inferensi.

  • Wilayah Tujuan — Wilayah tempat layanan Amazon Bedrock dapat merutekan permintaan dari Wilayah sumber Anda.

Saat Anda memanggil profil inferensi lintas wilayah di Amazon Bedrock, permintaan Anda berasal dari Wilayah sumber dan secara otomatis dirutekan ke salah satu Wilayah tujuan yang ditentukan dalam profil tersebut, mengoptimalkan kinerja. Wilayah tujuan untuk profil inferensi Lintas Wilayah Global mencakup semua Wilayah komersial.

catatan

Wilayah tujuan dalam profil inferensi Lintas wilayah dapat menyertakan Wilayah keikutsertaan, yang merupakan Wilayah yang harus Anda aktifkan secara eksplisit di atau tingkat Organisasi. Akun AWS Untuk mempelajari lebih lanjut, lihat Mengaktifkan atau menonaktifkan Region AWS di akun Anda. Saat menggunakan profil inferensi lintas wilayah, permintaan inferensi Anda dapat dialihkan ke salah satu Wilayah tujuan di profil, bahkan jika Anda tidak ikut serta dalam Wilayah tersebut di akun Anda.

Kebijakan Kontrol Layanan (SCP) dan AWS Identity and Access Management (IAM) bekerja sama untuk mengontrol di mana inferensi lintas wilayah diizinkan. Menggunakan SCP, Anda dapat mengontrol Wilayah Amazon Bedrock mana yang dapat digunakan untuk inferensi, dan menggunakan kebijakan IAM, Anda dapat menentukan pengguna atau peran mana yang memiliki izin untuk menjalankan inferensi. Jika ada Wilayah tujuan dalam profil inferensi Lintas wilayah yang diblokir di SCP Anda, permintaan akan gagal meskipun Wilayah lain tetap diizinkan. Untuk memastikan pengoperasian yang efisien dengan inferensi lintas wilayah, Anda dapat memperbarui kebijakan SCP dan IAM agar memungkinkan semua tindakan inferensi Amazon Bedrock yang diperlukan (misalnya, bedrock:InvokeModel* ataubedrock:CreateModelInvocationJob) di semua Wilayah tujuan yang disertakan dalam profil inferensi pilihan Anda. Untuk mempelajari selengkapnya, lihat Mengaktifkan inferensi Lintas Wilayah Amazon Bedrock di lingkungan multi-akun.

catatan

Beberapa profil inferensi merutekan ke daerah tujuan yang berbeda tergantung pada sumber Wilayah dari mana Anda menyebutnya. Misalnya, jika Anda menelepon us.anthropic.claude-3-haiku-20240307-v1:0 dari US East (Ohio), itu dapat merutekan permintaan keus-east-1,, atau us-east-2us-west-2, tetapi jika Anda memanggilnya dari US West (Oregon), itu hanya us-east-1 dapat merutekan permintaan ke dan. us-west-2

Untuk memeriksa Wilayah sumber dan tujuan untuk profil inferensi, Anda dapat melakukan salah satu hal berikut:

catatan

Profil inferensi lintas wilayah global untuk model tertentu dapat berubah seiring waktu karena AWS menambahkan lebih banyak Wilayah komersial tempat permintaan Anda dapat diproses. Namun, jika profil inferensi terkait dengan geografi (seperti AS, UE, atau APAC), daftar Wilayah tujuannya tidak akan pernah berubah. AWS mungkin membuat profil inferensi baru yang menggabungkan Wilayah baru. Anda dapat memperbarui sistem Anda untuk menggunakan profil inferensi ini dengan mengubah ID dalam pengaturan Anda ke yang baru.

Profil inferensi lintas wilayah Global saat ini hanya didukung pada Anthropic Claude Sonnet 4 model untuk sumber berikut Wilayah: AS Barat (Oregon), AS Timur (Virginia N.), AS Timur (Ohio), Eropa (Irlandia), dan Asia Pasifik (Tokyo). Wilayah tujuan untuk profil inferensi Global mencakup semua iklan Region AWS.

penting

ID profil inferensi lintas wilayah setiap model, Wilayah sumber yang didukung, Wilayah tujuan, dan cakupan Geo (Global, AS, atau UE) didokumentasikan pada halaman detail model. Untuk menemukan informasi ini, kunjungi model sekilas dan pilih model yang Anda minati. Pada halaman model, cari tabel ketersediaan Regional — tabel ini menunjukkan Regional mana yang mendukung In-Region, profil inferensi Geo, dan Global, dan bagian ID profil Inferensi mencantumkan ID yang tepat untuk digunakan dalam panggilan API.

Jika Anda perlu membandingkan opsi residensi data di beberapa model untuk perencanaan kepatuhan, tinjau tabel ketersediaan Regional di setiap halaman model untuk mengonfirmasi bahwa profil inferensi model yang Anda pilih hanya meminta ke Wilayah yang memenuhi persyaratan Anda.

Wilayah dan model yang Didukung untuk profil inferensi aplikasi

Profil inferensi aplikasi dapat dibuat untuk semua model sebagai berikut: Region AWS

  • ap-northeast-1

  • ap-northeast-2

  • ap-south-1

  • ap-southeast-1

  • ap-southeast-2

  • ca-sentral-1

  • eu-central-1

  • eu-west-1

  • eu-west-2

  • eu-west-3

  • sa-east-1

  • us-east-1

  • us-east-2

  • us-gov-east-1

  • us-west-2

Profil inferensi aplikasi dapat dibuat dari sebagian besar model yang didukung di Amazon Bedrock. Beberapa model, seperti model embedding, tidak mendukung profil inferensi. Untuk memeriksa apakah model tertentu mendukung profil inferensi, lihat sekilas model.