View a markdown version of this page

Asynchroner Werkzeugaufruf - Amazon Nova
FunktionsweiseUmgang mit BenutzerunterbrechungenFunktionsweise

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Asynchroner Werkzeugaufruf

Im Gegensatz zu herkömmlichen synchronen Werkzeugabrufen, bei denen die KI unbemerkt auf Werkzeugergebnisse wartet, ermöglicht der asynchrone Ansatz von Amazon Nova 2 Sonic Folgendes:

  • Akzeptieren Sie weiterhin Benutzereingaben, während die Tools ausgeführt werden

  • Beantworten Sie neue Fragen, ohne auf ausstehende Tool-Ergebnisse zu warten

  • Bearbeiten Sie mehrere Tool-Aufrufe gleichzeitig

  • Sorgen Sie für einen natürlichen Gesprächsfluss ohne unangenehme Pausen

  • Es ist keine zusätzliche Konfiguration erforderlich. Das asynchrone Aufrufen von Tools funktioniert sofort.

Funktionsweise

Wenn Nova 2 Sonic einen Toolaufruf ausgibt, wird die Konversation nicht unterbrochen. Stattdessen hört es weiter zu und reagiert auf natürliche Weise, bis das Tool eintrifft.

Umgang mit Benutzerunterbrechungen

Wenn ein Benutzer seine Anfrage ändert, während ein Tool ausgeführt wird, verarbeitet Nova 2 Sonic diese auf intelligente Weise, ohne ausstehende Tool-Aufrufe abzubrechen.

Beispielszenario

User: "Can I book a flight from Boston to Chicago?"
                Agent: "Sure, let me look that up for you."
                Agent: [initiates tool call for Chicago flights]
                User: "Actually, I want to go to Seattle"
                Agent: "Ok let me update that search"
                Agent: [initiates tool call for Seattle flights]
                [First tool returns with Chicago flight results]
                Agent: [receives Chicago results and processes them contextually]

Funktionsweise

Werkzeugergebnisse werden immer geliefert: Wenn ein Werkzeugabruf abgeschlossen ist, wird das Ergebnis immer an das Modell gesendet, auch wenn der Benutzer seine Anfrage geändert hat. Das Modell bestimmt anhand seiner Argumentationsfähigkeiten, wie mit den Informationen umgegangen werden soll.

Kontextsensitive Verarbeitung: Das Modell versteht den Konversationskontext und kann mit veralteten Toolergebnissen angemessen umgehen. Beispiel:

  • Wenn der Benutzer „Danke“ sagt, nachdem er seine Meinung geändert hat, benötigt das Modell immer noch die ursprünglichen Ergebnisse für den Kontext

  • Wenn der Benutzer seine Anfrage ändert, kann das Modell die ursprünglichen Ergebnisse bestätigen und sich gleichzeitig auf die neue Anfrage konzentrieren

Keine automatische Stornierung: Das System storniert oder ignoriert Tool-Aufrufe, die auf neuen Benutzereingaben basieren, nicht automatisch. Dadurch wird sichergestellt, dass das Modell über vollständige Informationen verfügt, um intelligente Entscheidungen darüber zu treffen, wie es reagieren soll.