View a markdown version of this page

Menyiapkan fungsi hadiah untuk model berbobot terbuka - Amazon Bedrock
Fungsi Lambda Kustom untuk Evaluasi HadiahDetail implementasi fungsi Lambda

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menyiapkan fungsi hadiah untuk model berbobot terbuka

Fungsi penghargaan mengevaluasi kualitas respons dan memberikan sinyal umpan balik untuk pelatihan model. Anda dapat mengatur fungsi hadiah menggunakan fungsi Lambda khusus. Pilih pendekatan yang sesuai dengan persyaratan tugas Anda.

Fungsi Lambda Kustom untuk Evaluasi Hadiah

Anda dapat mengatur fungsi hadiah menggunakan fungsi Lambda khusus. Dalam fungsi Lambda Anda, Anda memiliki fleksibilitas dalam cara Anda menerapkan logika evaluasi:

  • Tugas obyektif — Untuk tugas obyektif seperti pembuatan kode atau penalaran matematika, gunakan grader berbasis aturan yang dapat diverifikasi yang memeriksa kebenaran terhadap standar atau kasus uji yang diketahui.

  • Tugas subyektif — Untuk tugas subjektif seperti mengikuti instruksi atau interaksi chatbot, hubungi model yayasan Amazon Bedrock sebagai juri dalam fungsi Lambda Anda untuk mengevaluasi kualitas respons berdasarkan kriteria Anda.

Fungsi Lambda Anda dapat menerapkan logika kompleks, mengintegrasikan eksternal APIs, melakukan perhitungan multi-langkah, atau menggabungkan beberapa kriteria evaluasi tergantung pada persyaratan tugas Anda.

catatan

Saat menggunakan fungsi Lambda khusus:

  • Tingkatkan batas waktu Lambda dari default 3 detik menjadi maksimum 15 menit untuk evaluasi kompleks.

  • Peran eksekusi Lambda memerlukan izin untuk menjalankan fungsi Lambda seperti yang dijelaskan dalam. Izin Lambda untuk fungsi hadiah

Detail implementasi fungsi Lambda

Saat menerapkan fungsi hadiah Lambda khusus, fungsi Anda harus menerima dan mengembalikan data dalam format berikut.

Input structure
[{
  "id": "123",
  "messages": [
    {
      "role": "user",
      "content": "Do you have a dedicated security team?"
    },
    {
      "role": "assistant",
      "content": "As an AI developed by Amazon, I don not have a dedicated security team..."
    }
  ],
  "metadata": {
    "reference_answer": {
      "compliant": "No",
      "explanation": "As an AI developed by Company, I do not have a traditional security team..."
    },
    "my_key": "sample-001"
  }
}]
Output structure
[{
  "id": "123",
  "aggregate_reward_score": 0.85,
  "metrics_list": [
    {
      "name": "accuracy",
      "value": 0.9,
      "type": "Reward"
    },
    {
      "name": "policy_compliance",
      "value": 0.8,
      "type": "Metric"
    }
  ]
}]

Pedoman desain

  • Tanggapan peringkat — Berikan jawaban terbaik dengan skor yang jelas lebih tinggi

  • Gunakan pemeriksaan yang konsisten — Evaluasi penyelesaian tugas, kepatuhan format, keamanan, dan panjang yang wajar

  • Pertahankan penskalaan yang stabil - Jaga skor tetap normal dan tidak dapat dieksploitasi