Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Panggilan alat asinkron
Tidak seperti panggilan alat sinkron tradisional di mana AI menunggu diam-diam untuk hasil alat, pendekatan asinkron Amazon Nova 2 Sonic memungkinkannya untuk:
-
Terus menerima masukan pengguna saat alat sedang berjalan
-
Menanggapi pertanyaan baru tanpa menunggu hasil alat yang tertunda
-
Menangani beberapa panggilan alat secara bersamaan
-
Pertahankan aliran percakapan alami tanpa jeda yang canggung
-
Tidak diperlukan konfigurasi tambahan. Pemanggilan alat asinkron bekerja di luar kotak.
Cara kerjanya
Ketika Nova 2 Sonic mengeluarkan panggilan alat, itu tidak menghentikan percakapan. Sebaliknya, ia terus mendengarkan dan merespons secara alami sampai alat tiba.
Menangani interupsi pengguna
Jika pengguna mengubah permintaan mereka saat alat dijalankan, Nova 2 Sonic menanganinya dengan cerdas tanpa membatalkan panggilan alat yang tertunda.
Contoh skenario
User: "Can I book a flight from Boston to Chicago?" Agent: "Sure, let me look that up for you." Agent: [initiates tool call for Chicago flights] User: "Actually, I want to go to Seattle" Agent: "Ok let me update that search" Agent: [initiates tool call for Seattle flights] [First tool returns with Chicago flight results] Agent: [receives Chicago results and processes them contextually]
Cara kerjanya
Hasil alat selalu dikirimkan: Ketika panggilan alat selesai, hasilnya selalu dikirim ke model, bahkan jika pengguna telah mengubah permintaan mereka. Model menggunakan kemampuan penalarannya untuk menentukan bagaimana menangani informasi.
Pemrosesan sadar konteks: Model memahami konteks percakapan dan dapat menangani hasil alat yang sudah ketinggalan zaman dengan tepat. Contoh:
-
Jika pengguna mengatakan “terima kasih” setelah berubah pikiran, model masih membutuhkan hasil asli untuk konteks
-
Jika pengguna mengubah permintaan mereka, model dapat mengakui hasil asli sambil berfokus pada permintaan baru
Tidak ada pembatalan otomatis: Sistem tidak secara otomatis membatalkan atau mengabaikan panggilan alat berdasarkan input pengguna baru. Ini memastikan model memiliki informasi lengkap untuk membuat keputusan cerdas tentang bagaimana merespons.
