Llamadas a herramientas asíncronas
A diferencia de las llamadas sincrónicas tradicionales entre herramientas, en las que la IA espera silenciosamente los resultados de las herramientas, el enfoque asíncrono de Amazon Nova 2 Sonic le permite:
-
Continuar aceptando entradas del usuario mientras se ejecutan las herramientas
-
Responder a nuevas preguntas sin esperar a que aparezcan los resultados pendientes de la herramienta
-
Gestionar varias llamadas a herramientas simultáneamente
-
Mantener un flujo de conversación natural sin pausas incómodas
-
No es necesario realizar más configuraciones. La llamada a herramientas asíncrona funciona de forma inmediata.
Funcionamiento
Cuando Nova 2 Sonic hace una llamada a una herramienta, no detiene la conversación. En cambio, continúa escuchando y respondiendo de forma natural hasta que llega la herramienta.
Gestión de interrupciones del usuario
Si un usuario cambia su solicitud mientras se ejecuta una herramienta, Nova 2 Sonic la gestiona de forma inteligente sin cancelar las llamadas pendientes a la herramienta.
Ejemplo de escenarios
User: "Can I book a flight from Boston to Chicago?" Agent: "Sure, let me look that up for you." Agent: [initiates tool call for Chicago flights] User: "Actually, I want to go to Seattle" Agent: "Ok let me update that search" Agent: [initiates tool call for Seattle flights] [First tool returns with Chicago flight results] Agent: [receives Chicago results and processes them contextually]
Funcionamiento
Los resultados de la herramienta siempre se entregan: cuando se completa una llamada a una herramienta, su resultado siempre se envía al modelo, incluso si el usuario ha cambiado la solicitud. El modelo utiliza sus capacidades de razonamiento para determinar cómo gestionar la información.
Procesamiento sensible al contexto: el modelo comprende el contexto de la conversación y puede gestionar adecuadamente los resultados de las herramientas desactualizadas. Por ejemplo:
-
Si el usuario dice “gracias” después de cambiar de opinión, el modelo sigue necesitando los resultados originales para contextualizarlos.
-
Si el usuario cambia su solicitud, el modelo puede reconocer los resultados originales y centrarse en la nueva solicitud.
Sin cancelación automática: el sistema no cancela ni ignora automáticamente las llamadas a las herramientas en función de las nuevas entradas del usuario. Esto garantiza que el modelo cuente con información completa para tomar decisiones inteligentes sobre cómo responder.
