View a markdown version of this page

Sempurnakan model bobot terbuka menggunakan -kompatibel OpenAI APIs - Amazon Bedrock
Kemampuan kunciAlur kerja fine-tuning penguatan untuk model bobot terbukaWilayah dan titik akhir yang didukung

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Sempurnakan model bobot terbuka menggunakan -kompatibel OpenAI APIs

Amazon Bedrock menyediakan endpoint API yang OpenAI kompatibel untuk model foundation fine-tuning. Titik akhir ini memungkinkan Anda menggunakan alat yang familiar OpenAI SDKs dan alat untuk membuat, memantau, dan mengelola pekerjaan fine-tuning dengan model Amazon Bedrock. Halaman ini menyoroti penggunaan ini APIs untuk fine-tuning penguatan.

Kemampuan kunci

  • Unggah file pelatihan — Gunakan Files API untuk mengunggah dan mengelola data pelatihan untuk pekerjaan fine-tuning

  • Buat pekerjaan fine-tuning — Mulai fine-tuning pekerjaan dengan data pelatihan khusus dan fungsi hadiah

  • Daftar dan ambil pekerjaan — Lihat semua pekerjaan fine-tuning dan dapatkan informasi rinci tentang pekerjaan tertentu

  • Pantau acara pekerjaan - Lacak kemajuan fine-tuning melalui log peristiwa terperinci

  • Akses pos pemeriksaan - Ambil pos pemeriksaan model menengah yang dibuat selama pelatihan

  • Inferensi langsung — Setelah fine-tuning selesai, gunakan model fine-tuned yang dihasilkan untuk inferensi sesuai permintaan melalui Amazon Bedrock yang kompatibel dengan OpenAI (API respons/penyelesaian obrolan) tanpa langkah penerapan tambahan APIs

  • Migrasi mudah - Kompatibel dengan basis kode OpenAI SDK yang ada

Alur kerja fine-tuning penguatan untuk model bobot terbuka

Sebelum melakukan fine-tuning, pastikan Anda memiliki prasyarat karena Amazon Bedrock memerlukan izin khusus untuk membuat dan mengelola proses fine-tuning. Untuk informasi keamanan dan izin yang komprehensif, lihatAkses dan keamanan untuk model berbobot terbuka.

Jalankan fine-tuning penguatan untuk model berbobot terbuka dalam 5 langkah:

  1. Unggah Dataset Pelatihan — Gunakan Files API untuk mengunggah prompt dalam format yang diperlukan (misalnya, JSONL) dengan tujuan “fine-tune” sebagai kumpulan data pelatihan fine-tuning penguatan. Untuk informasi selengkapnya, lihat Siapkan data untuk model berbobot terbuka.

  2. Konfigurasi Fungsi Hadiah — Tentukan grader untuk menilai respons model berdasarkan kebenaran, struktur, nada, atau tujuan lain menggunakan fungsi Lambda. Untuk informasi selengkapnya, lihat Menyiapkan fungsi hadiah untuk model berbobot terbuka.

  3. Buat Fine-tuning Job — Luncurkan pekerjaan fine-tuning penguatan menggunakan OpenAI API yang kompatibel dengan menentukan model dasar, kumpulan data, fungsi reward, dan pengaturan opsional lainnya seperti hyperparameters. Untuk informasi selengkapnya, lihat Buat pekerjaan fine-tuning.

  4. Pantau Kemajuan Pelatihan — Lacak status pekerjaan, acara, dan metrik pelatihan menggunakan pekerjaan fine-tuning. APIs Untuk informasi selengkapnya, lihat Daftar acara fine-tuning. Akses pos pemeriksaan model perantara untuk mengevaluasi kinerja pada tahap pelatihan yang berbeda, lihatDaftar pos pemeriksaan fine-tuning.

  5. Jalankan Inferensi — Gunakan ID model yang disetel dengan baik secara langsung untuk inferensi melalui Respons atau Penyelesaian Obrolan yang kompatibel dengan Amazon Bedrock. OpenAI APIs Untuk informasi selengkapnya, lihat Jalankan inferensi dengan model yang disetel dengan baik.

Wilayah dan titik akhir yang didukung

Tabel berikut menunjukkan model pondasi dan wilayah yang mendukung APIs fine-tuning yang OpenAI kompatibel:

Model dan wilayah yang didukung untuk fine-tuning yang OpenAI kompatibel APIs
Penyedia Model ID Model Nama wilayah Wilayah Titik akhir
OpenAI GPT-OSS-20b openai.gpt-oss-20b AS Barat (Oregon) us-west-2 batuan-mantle.us-west-2.api.aws
Qwen Qwen3 32B qwen.qwen3-32b AS Barat (Oregon) us-west-2 batuan-mantle.us-west-2.api.aws