Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Proyek API
Amazon Bedrock Projects API menyediakan isolasi tingkat aplikasi untuk beban kerja AI generatif Anda menggunakan OpenAI kompatibel. APIs Proyek memungkinkan Anda untuk mengatur dan mengelola aplikasi AI Anda dengan kontrol akses yang lebih baik, pelacakan biaya, dan pengamatan di seluruh organisasi Anda.
catatan
Proyek hanya dapat digunakan dengan model yang menggunakan OpenAI yang kompatibel dengan titik akhir APIs mantel dasar. Jika Anda menggunakan titik akhir bedrock-runtime, gunakan Profil Inferensi alih-alih penandaan dan observabilitas.
Apa itu Proyek?
Proyek adalah batas logis yang digunakan untuk mengisolasi beban kerja seperti aplikasi, lingkungan, atau eksperimen dalam Amazon Bedrock. Proyek menyediakan:
-
Isolasi akses: Kontrol siapa yang dapat mengakses sumber daya proyek tertentu menggunakan kebijakan AWS Identity and Access Management (IAM)
-
Pemantauan biaya: Lacak pengeluaran di tingkat proyek menggunakan tag AWS dan AWS Cost Explorer
Proyek memungkinkan Anda mengelola beberapa beban kerja AI generatif dalam produksi tanpa membuat akun atau organisasi AWS terpisah, mengurangi kompleksitas operasional sambil mempertahankan keamanan dan tata kelola.
Setiap akun AWS memiliki proyek default tempat semua permintaan inferensi dikaitkan dengannya. Anda dapat membuat lebih banyak proyek di akun Anda menggunakan Projects API.
Kapan Menggunakan Proyek
Anda harus menggunakan Projects API saat Anda perlu:
-
Atur berdasarkan struktur bisnis: Kelola penggunaan Batuan Dasar berdasarkan taksonomi organisasi Anda seperti unit bisnis, tim, aplikasi, atau pusat biaya
-
Mengisolasi data sensitif: Pastikan bahwa prompt, tanggapan, dan data konteks dari satu aplikasi tidak dapat diakses oleh aplikasi lain
-
Lacak biaya secara akurat: Pantau dan alokasikan pengeluaran AI untuk tim, proyek, atau lingkungan tertentu
-
Menerapkan kebijakan akses: Menerapkan izin IAM terperinci untuk mengontrol siapa yang dapat mengakses beban kerja AI tertentu
-
Skalakan beban kerja produksi: Jalankan beberapa aplikasi produksi dengan batas operasional dan pemantauan yang jelas
Proyek vs Profil Inferensi
Baik Project API dan Inference Profiles menyediakan kemampuan isolasi, penandaan, dan kontrol akses di Amazon Bedrock, tetapi keduanya berbeda berdasarkan API yang Anda gunakan. Jika Anda menggunakan OpenAI yang kompatibel APIs dengan endpoint batuan dasar mantel, yang menggunakan mesin inferensi Mantle, gunakan Projects API. Jika Anda menggunakan Invoke atau Converse APIs dengan endpoint groundck-runtime, gunakan Inference Profiles. Meskipun Anda dapat menggunakan Chat Completions API dengan endpoint bedrock-mantle atau bedrock-runtime, kami sarankan Anda menggunakan endpoint Mantle.
| Fitur | Proyek API | Profil Inferensi |
|---|---|---|
| Didukung APIs | Kompatibel dengan OpenAI APIs (Tanggapan, Penyelesaian Obrolan) | Batuan Dasar Asli APIs (Invoke, Converse), API yang kompatibel dengan OpenAI (Penyelesaian Obrolan) |
| Titik akhir | bedrock-mantle.{region}.api.aws |
bedrock-runtime.{region}.amazonaws.com |
| Kasus Penggunaan | Aplikasi menggunakan endpoint yang kompatibel dengan OpenAI | Aplikasi menggunakan Bedrock asli APIs |
| Kontrol Akses | Proyek sebagai sumber daya dalam kebijakan IAM | Kebijakan IAM tentang ARN inference profile |
| Pelacakan Biaya | Tag AWS pada proyek | Tag AWS pada profil inferensi |
Proyek vs Akun AWS
AWS Accounts dan AWS Organizations mewakili batas penagihan dan kepemilikan di tingkat infrastruktur. Proyek mewakili beban kerja dan batasan aplikasi dalam satu akun.
Menggunakan Projects alih-alih akun AWS terpisah menyediakan:
-
Pengaturan lebih cepat: Buat proyek dalam hitungan detik melalui panggilan API
-
Mengurangi kompleksitas: Mengelola beberapa beban kerja tanpa akun yang luas
-
Operasi yang disederhanakan: Manajemen terpusat dalam satu akun
-
Overhead yang lebih rendah: Tidak perlu peran IAM lintas akun atau berbagi sumber daya
Memulai dengan Proyek
Halaman ini memandu Anda melalui pembuatan proyek pertama Anda, mengaitkannya dengan permintaan inferensi, dan mengelola sumber daya proyek.
Prasyarat
Sebelum Anda mulai, pastikan Anda memiliki:
-
Akun AWS dengan akses Amazon Bedrock
-
Izin IAM untuk membuat dan mengelola proyek Bedrock
-
Python 3.7 atau yang lebih baru diinstal
-
SDK Python OpenAI diinstal:
pip install openai boto3 -
Kunci API untuk otentikasi Amazon Bedrock
Langkah 1: Atur Lingkungan Anda
Konfigurasikan variabel lingkungan Anda dengan kredensyal Amazon Bedrock Anda:
export OPENAI_API_KEY="<your-bedrock-key>" export OPENAI_BASE_URL="https://bedrock-mantle.<your-region>.api.aws/v1"
Ganti <your-region> dengan wilayah AWS Anda (misalnya, us-east-1, us-west-2).
catatan
Amazon Bedrock menawarkan dua jenis kunci: jangka pendek dan jangka panjang. Meskipun Anda dapat menggunakan kunci API jangka panjang untuk menjelajahi Amazon Bedrock, kami merekomendasikan kunci jangka pendek untuk aplikasi dengan persyaratan keamanan yang lebih besar. Jika Anda menggunakan kunci jangka panjang dengan Proyek, perhatikan bahwa kebijakan default yang dilampirkan pada kunci jangka panjang hanya memungkinkan Anda mendapatkan dan membuat daftar proyek, tetapi tidakcreate/update/archive. Jika Anda ingin kunci jangka panjang Anda untuk mengelola proyek, maka Anda harus menetapkan kebijakan IAM tambahan ke kunci Anda untuk mengaktifkan operasi ini.
Langkah 2: Temukan Model yang Tersedia
Gunakan list() API untuk mengambil daftar model yang kompatibel dengan Projects API:
curl -X GET $OPENAI_BASE_URL/models \ -H "Authorization: Bearer $OPENAI_API_KEY"
Langkah 3: Buat Proyek Pertama Anda
Buat proyek menggunakan Create Project API dengan tag untuk pemantauan biaya dan observabilitas. Perhatikan bahwa saat ini hanya cURL yang didukung di SDK.
curl -X POST $OPENAI_BASE_URL/organization/projects \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "name": "Project ABC", "tags": { "Project": "CustomerChatbot", "Environment": "Production", "Owner": "TeamAlpha", "CostCenter": "21524" } }' -v
Respons:
{ "arn": "arn:aws:bedrock-mantle:ap-northeast-1:673693429514:project/proj_5d5ykleja6cwpirysbb7", "created_at": 1772135628, "id": "proj_5d5ykleja6cwpirysbb7", "name": "Project ABC", "object": "organization.project", "status": "active", "tags": { "Owner": "TeamAlpha", "Project": "CustomerChatbot", "Environment": "Production", "CostCenter": "21524" } }
Catatan Penting:
-
Parameter geografi dalam spesifikasi OpenAI API diabaikan oleh Amazon Bedrock.
-
Wilayah ditentukan oleh konfigurasi titik akhir Anda.
-
Bidang arn khusus untuk Amazon Bedrock dan menyediakan ARN untuk lampiran kebijakan IAM.
-
Tag dapat ditentukan selama pembuatan proyek dan dikembalikan dalam semua tanggapan proyek.
Langkah 4: Kaitkan Permintaan Inferensi dengan Proyek Anda
Untuk mengaitkan proyek Anda dengan permintaan inferensi, berikan ID proyek saat membuat klien:
Semua permintaan inferensi yang dibuat dengan klien ini akan dikaitkan dengan proyek yang ditentukan, memastikan isolasi yang tepat, pelacakan biaya, dan kontrol akses.
Langkah 5: Verifikasi Pengaturan Proyek Anda
Buat daftar semua proyek untuk memverifikasi proyek Anda berhasil dibuat:
curl -X GET $OPENAI_BASE_URL/organization/projects \ -H "Authorization: Bearer $OPENAI_API_KEY"
Respons:
{ "data": [ { "arn": "arn:aws:bedrock-mantle:ap-northeast-1:673693429514:project/default", "created_at": 1764460800, "id": "default", "name": "default", "object": "organization.project", "status": "active", "tags": {} }, { "arn": "arn:aws:bedrock-mantle:ap-northeast-1:673693429514:project/proj_2z766pfxmkij5vwubv75", "created_at": 1771823259, "id": "proj_2z766pfxmkij5vwubv75", "name": "Project ABC", "object": "organization.project", "status": "active", "tags": {} } ], "first_id": "default", "has_more": false, "last_id": "proj_znaruqn723npmjqnxqfd", "object": "list" }
Langkah Berikutnya
Sekarang setelah Anda membuat proyek pertama Anda, Anda dapat:
-
Konfigurasikan kontrol akses: Lampirkan kebijakan IAM untuk membatasi akses proyek
-
Siapkan pelacakan biaya: Tambahkan tag AWS untuk alokasi biaya
-
Aktifkan pemantauan: Konfigurasikan CloudWatch metrik dan alarm
-
Buat proyek tambahan: Atur beban kerja berdasarkan tim, lingkungan, atau aplikasi
Bekerja dengan Proyek
Halaman ini memberikan informasi rinci tentang mengelola proyek sepanjang siklus hidupnya.
Membuat Proyek
Pembuatan Proyek Dasar
Buat proyek dengan nama, deskripsi, dan tag:
curl -X POST $OPENAI_BASE_URL/v1/organization/projects \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "name": "Development Environment", "tags": { "Project": "InternalTools", "Environment": "Development", "Owner": "TeamAlpha", "CostCenter": "30156" } }'
Anda dapat memiliki hingga 1000 proyek per akun.
Konvensi Penamaan yang Direkomendasikan
Gunakan nama yang jelas dan deskriptif yang mencerminkan struktur organisasi Anda:
-
Dengan aplikasi: CustomerChatbot -Prod, -Dev InternalSearch
-
Oleh tim: TeamAlpha -Produksi, -Eksperimen DataScience
-
Berdasarkan lingkungan: Produksi-WebApp, Pementasan- MobileApp
-
Berdasarkan pusat biaya: CostCenter -2152-Produksi
Daftar Proyek
Daftar Semua Proyek
Ambil semua proyek di akun Anda:
curl -X GET $OPENAI_BASE_URL/organization/projects \ -H "Authorization: Bearer $OPENAI_API_KEY"
Mengambil Detail Proyek
Dapatkan informasi rinci tentang proyek tertentu:
curl -X GET $OPENAI_BASE_URL/organization/projects/proj_5d5ykleja6cwpirysbb7 \ -H "Authorization: Bearer $OPENAI_API_KEY"
Memperbarui Proyek
Ubah properti proyek seperti nama:
curl -X POST $OPENAI_BASE_URL/organization/projects/proj_5d5ykleja6cwpirysbb7 \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "name": "Production Chatbot v2" }'
Mengelola Tag Proyek
Tambahkan tag baru atau perbarui nilai tag yang ada:
curl -X POST $OPENAI_BASE_URL/organization/projects/proj_5d5ykleja6cwpirysbb7 \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "add_tags": { "Application": "WebApp", "Version": "2.0", "Team": "Engineering" } }'
Hapus tag tertentu dengan kuncinya:
curl -X POST $OPENAI_BASE_URL/organization/projects/proj_5d5ykleja6cwpirysbb7 \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "remove_tag_keys": ["Version", "OldTagKey"] }'
Catatan Penting
-
Tidak ada penggantian penuh: Tidak ada operasi untuk mengganti seluruh set tag sekaligus. Anda harus secara eksplisit menentukan tag mana yang akan ditambahkan dan mana yang harus dihapus.
-
Penanganan kesalahan: Menerapkan penanganan dan verifikasi kesalahan yang tepat
Proyek Pengarsipan
Arsipkan proyek yang tidak lagi digunakan:
curl -X POST $OPENAI_BASE_URL/organization/projects/proj_abc123/archive \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json"
penting
Proyek yang diarsipkan tidak dapat digunakan untuk permintaan inferensi baru, tetapi data historis dan metrik tetap dapat diakses hingga 30 hari.
Menggunakan Proyek dengan Berbeda APIs
Praktik Terbaik
Struktur Proyek yang Direkomendasikan
Satu proyek per aplikasi: Buat proyek terpisah untuk setiap aplikasi atau layanan yang berbeda.
├── CustomerChatbot-Production ├── CustomerChatbot-Staging ├── CustomerChatbot-Development ├── InternalSearch-Production └── InternalSearch-Development
-
Lingkungan terpisah: Gunakan proyek yang berbeda untuk lingkungan pengembangan, pementasan, dan produksi.
-
Isolasi eksperimen: Buat proyek khusus untuk eksperimen dan proof-of-concepts.
Manajemen Siklus Hidup Proyek
-
Buat proyek lebih awal: Siapkan proyek sebelum menerapkan aplikasi
-
Gunakan penamaan yang konsisten: Ikuti konvensi penamaan organisasi
-
Tujuan proyek dokumen: Sertakan deskripsi yang jelas
-
Audit reguler: Meninjau dan mengarsipkan proyek yang tidak digunakan secara berkala
-
Memantau penggunaan: Lacak metrik proyek untuk mengidentifikasi peluang pengoptimalan