View a markdown version of this page

非同期ツール呼び出し - Amazon Nova
仕組みユーザーによる中断の処理仕組み

非同期ツール呼び出し

AI がツールの結果をサイレントに待機する従来の同期ツール呼び出しとは異なり、Amazon Nova 2 Sonic の非同期アプローチでは、次のことが可能になります。

  • ツールの実行中にユーザー入力を引き続き受け入れる

  • 保留中のツール結果を待たずに新しい質問に答える

  • 複数のツール呼び出しを同時に処理する

  • ぎこちない一時停止なしで自然な会話フローを維持する

  • 他に必要な設定はありません。非同期ツール呼び出しは、すぐに機能します。

仕組み

Nova 2 Sonic がツール呼び出しを行っても、会話は一時停止されません。代わりに、ツールが到着するまで自然にリッスンと応答を続けます。

ユーザーによる中断の処理

ツールの実行中にユーザーがリクエストを変更した場合、Nova 2 Sonic は保留中のツール呼び出しをキャンセルせずにインテリジェントに処理します。

シナリオの例

User: "Can I book a flight from Boston to Chicago?"
                Agent: "Sure, let me look that up for you."
                Agent: [initiates tool call for Chicago flights]
                User: "Actually, I want to go to Seattle"
                Agent: "Ok let me update that search"
                Agent: [initiates tool call for Seattle flights]
                [First tool returns with Chicago flight results]
                Agent: [receives Chicago results and processes them contextually]

仕組み

ツールの結果は常に配信されます。ツール呼び出しが完了すると、ユーザーがリクエストを変更した場合でも、結果は常にモデルに送信されます。モデルは推論機能を使用して、情報の処理方法を決定します。

コンテキスト対応処理: モデルは会話コンテキストを理解し、古いツールの結果を適切に処理できます。例えば、次のようになります。

  • ユーザーが考えを変更した後に「ありがとう」と言った場合でも、モデルにはコンテキストとして元の結果が必要です

  • ユーザーがリクエストを変更した場合、モデルは新しいリクエストに集中しながら元の結果を確認できます

自動キャンセルなし: システムは、新しいユーザー入力に基づいてツール呼び出しを自動的にキャンセルまたは無視しません。これにより、モデルには、対応方法についてインテリジェントな意思決定を行うための完全な情報が得られます。