Chamada de ferramentas assíncronas
Diferentemente da chamada síncrona tradicional de ferramentas, em que a IA espera silenciosamente pelos resultados da ferramenta, a abordagem assíncrona do Amazon Nova 2 Sonic permite:
-
Continuar aceitando a entrada do usuário enquanto as ferramentas estão em execução
-
Responder a novas perguntas sem esperar pelos resultados pendentes da ferramenta
-
Gerenciar várias chamadas de ferramentas simultaneamente
-
Manter o fluxo natural da conversa sem pausas desconfortáveis
-
Nenhuma configuração extra é necessária. A chamada de ferramentas assíncrona funciona sem configurações adicionais.
Como funciona
Quando o Nova 2 Sonic faz uma chamada de ferramenta, ele não pausa a conversa. Em vez disso, ele continua ouvindo e respondendo naturalmente até que a ferramenta retorne o resultado.
Gerenciamento das interrupções do usuário
Se um usuário alterar sua solicitação enquanto uma ferramenta está sendo executada, o Nova 2 Sonic lida como essa questão de forma inteligente, sem cancelar as chamadas de ferramentas pendentes.
Cenário de exemplo
User: "Can I book a flight from Boston to Chicago?" Agent: "Sure, let me look that up for you." Agent: [initiates tool call for Chicago flights] User: "Actually, I want to go to Seattle" Agent: "Ok let me update that search" Agent: [initiates tool call for Seattle flights] [First tool returns with Chicago flight results] Agent: [receives Chicago results and processes them contextually]
Como funciona
Os resultados da ferramenta são sempre entregues: quando uma chamada de ferramenta é concluída, seu resultado é sempre enviado ao modelo, mesmo que o usuário tenha alterado sua solicitação. O modelo usa seus recursos de raciocínio para determinar como lidar com as informações.
Processamento sensível ao contexto: o modelo compreende o contexto da conversa e pode lidar adequadamente com os resultados desatualizados das ferramentas. Por exemplo:
-
Se o usuário disser “obrigado” depois de mudar de ideia, o modelo ainda precisará dos resultados originais para contextualizar
-
Se o usuário alterar sua solicitação, o modelo poderá reconhecer os resultados originais enquanto se concentra na nova solicitação
Sem cancelamento automático: o sistema não cancela nem ignora automaticamente as chamadas de ferramentas com base nas novas entradas do usuário. Isso garante que o modelo tenha informações completas para tomar decisões inteligentes sobre como responder.
