View a markdown version of this page

Titik akhir yang didukung oleh Amazon Bedrock - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Titik akhir yang didukung oleh Amazon Bedrock

Amazon Bedrock mendukung berbagai titik akhir tergantung pada apakah Anda ingin melakukan operator pesawat kontrol atau operasi inferensi.

Operasi Kontrol Pesawat

Operasi bidang kontrol Amazon Bedrock dapat digunakan dengan titik akhir: bedrock.{region}.amazonaws.com. Ini dapat digunakan untuk mengelola sumber daya, seperti mencantumkan model yang tersedia, membuat pekerjaan model khusus, dan mengelola throughput yang disediakan. Baca lebih lanjut tentang API bidang kontrol kami di sini.

Operasi inferensi

Amazon Bedrock mendukung dua titik akhir utama berikut untuk melakukan inferensi secara terprogram:

Titik akhir API yang didukung Deskripsi
bedrock-mantle.{region}.api.aws Responses API/API Penyelesaian Obrolan/API Pesan Region-specific endpoint untuk membuat permintaan inferensi untuk model yang dihosting di Amazon Bedrock menggunakan OpenAI-compatible endpoint dan Anthropic Messages API.
bedrock-runtime.{region}.amazonaws.com InvokeModel/Converse/Penyelesaian Obrolan/API Pesan Region-specific titik akhir untuk membuat permintaan inferensi untuk model yang dihosting di Amazon Bedrock menggunakan API. InvokeModel/Converse/Chat Completions/Messages Baca lebih lanjut tentang Amazon Bedrock Runtime API di sini.

Titik akhir layanan mana yang harus Anda gunakan untuk inferensi Anda?

Titik akhir yang Anda gunakan tergantung pada kasus penggunaan Anda.

Titik akhir Fitur dan Kasus Penggunaan
bedrock-mantle

Mendukung OpenAI-compatible API (Responses API, Chat Completions API) dan Anthropic-native Messages API.

Gunakan untuk: Mudah bermigrasi dari model lain yang menggunakan OpenAI-compatible API.

Fitur: Mendukung penggunaan alat sisi klien dan server dengan fungsi Lambda dan dilengkapi dengan alat siap pakai di aplikasi Anda.

Direkomendasikan untuk: Pengguna baru ke Amazon Bedrock.

bedrock-runtime

Mendukung API asli Amazon Bedrock (Invoke API, Converse API), API Anthropic-native Pesan, dan API Penyelesaian OpenAI-compatible Obrolan.

Gunakan untuk: Menjalankan model apa pun yang didukung oleh Amazon Bedrock. Converse API menyediakan antarmuka terpadu untuk berinteraksi dengan semua model di Amazon Bedrock dan API Invoke menyediakan akses langsung ke model dengan kemampuan lebih untuk mengontrol format permintaan dan respons. Anda juga dapat menggunakan Chat Completions API untuk berinteraksi dengan model Anda.

Fitur: Hanya mendukung penggunaan alat sisi klien dengan fungsi Lambda dan tidak datang pra-konfigurasi dengan alat siap pakai. Memungkinkan Anda melacak penggunaan dan biaya saat menjalankan model.

Jika Anda baru mengenal Amazon Bedrock, sebaiknya gunakan API terbuka seperti Messages API, Chat Completions API, atau Responses API. API ini tersedia di kedua titik akhir, tetapi kami merekomendasikan titik bedrock-mantle akhir.

Mengurangi biaya keluar data dengan titik akhir antarmuka VPC

Jika Anda memanggil Amazon Bedrock dari dalam VPC, pertimbangkan untuk menggunakan titik akhir antarmuka VPC (AWS) untuk menjaga lalu lintas dalam jaringan PrivateLink AWS dan menghindari biaya keluar data yang terkait dengan gateway NAT atau gateway internet.