As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Armazene e recupere o histórico e o contexto de conversas com APIs de gerenciamento de sessão
nota
As APIs de gerenciamento de sessão estão em versão prévia e estão sujeitas a alterações.
As APIs de gerenciamento de sessões permitem que você salve pontos de verificação para conversas contínuas em aplicativos generativos de IA criados com estruturas de código aberto, como e. LangGraph LlamaIndex Você pode usar as APIs para gerenciar com segurança o contexto do estado e da conversação em fluxos de trabalho de IA generativa de várias etapas. Você não precisa criar, manter ou escalar soluções de backend personalizadas para a persistência de estado e de contexto.
Com as APIs de gerenciamento de sessão, é possível fazer o seguinte:
-
Verificar os estágios do fluxo de trabalho do ponto de verificação para testes iterativos e fluxos de trabalho human-in-the-loop.
-
Retomar conversas e tarefas a partir do ponto de interrupção.
-
Examinar os logs de sessão para analisar os estágios do fluxo de trabalho e depurar falhas.
Como as sessões são um recurso no Amazon Bedrock, você pode controlar o acesso à sessão com AWS Identity and Access Management (IAM). Por padrão, o Amazon Bedrock usa chaves AWS gerenciadas para criptografia de sessão, incluindo metadados de sessão, ou você pode usar sua própria chave. AWS KMS Para obter mais informações, consulte Criptografia de sessão.
Você pode criar e gerenciar sessões do Amazon Bedrock com as APIs ou SDKs do Amazon Bedrock. AWS Para aplicativos desenvolvidos LangGraph, você pode usar a BedrockSessionSaver classe da langgraph_checkpoint_aws.saver biblioteca. Essa é uma implementação personalizada do LangGraph CheckpointSaver. Para obter mais informações, consulte langgraph-checkpoint-aws
nota
Use uma sessão para armazenar o estado e o histórico de conversas para aplicações de IA generativa criadas com frameworks de código aberto. Para Amazon Bedrock Agents, o serviço gerencia automaticamente o contexto da conversa e o associa ao sessionID específico do agente que você especifica na operação da API. InvokeAgent
Tópicos
Exemplos de casos de uso
Talvez você tenha um aplicativo que usa um LangGraph agente para ajudar os clientes a planejar itinerários de viagem. Um usuário pode iniciar uma conversa com esse agente para criar o itinerário de uma próxima viagem, adicionando destinos, hotéis preferidos e detalhes do voo.
Com as APIs de gerenciamento de sessão, o agente pode salvar estados intermediários e o contexto persistente ao longo da interação estendida de várias etapas. O agente pode usar uma sessão do Amazon Bedrock para verificar o respectivo estado após a adição de cada destino, preservando detalhes sobre as preferências do cliente.
Se a conversa for interrompida ou falhar, o agente poderá retomar a sessão posteriormente com o contexto intacto, inclusive textos e imagens. Isso permite que o agente prossiga sem que o cliente precise repetir as informações. Além disso, em caso de falha, é possível investigar os detalhes da sessão para depurar a causa.
Fluxo de trabalho
O fluxo de trabalho para usar as APIs de gerenciamento de sessão é apresentado abaixo. Para obter informações sobre como usar a BedrockSessionSaver biblioteca, consulteGerencie sessões com a BedrockSessionSaver LangGraph biblioteca.
-
Crie uma sessão — Quando o usuário final inicia a conversa pela primeira vez, você cria uma sessão com a operação da CreateSessionAPI e especifica uma ID para a sessão. Você usa esse ID ao armazenar e recuperar o estado da conversa.
-
Armazene conversas e contexto — à medida que seus usuários finais interagem com seu assistente generativo de IA, use a CreateInvocationAPI para criar um agrupamento de interações dentro da sessão. Para cada invocação, use as operações da PutInvocationStepAPI para armazenar pontos de verificação de estado refinados, incluindo texto e imagens, para cada interação.
-
Recupere o histórico e o contexto da conversa — Use as operações GetSession, ListInvocations, e GetInvocationStepda API para recuperar metadados da sessão e detalhes da interação.
-
Encerrar a sessão — Quando a sessão estiver concluída, termine a sessão com a operação da EndSessionAPI. Depois de encerrar uma sessão, você ainda poderá acessar o conteúdo, mas não poderá ampliá-lo. Para excluir a sessão e seu conteúdo, você usa a operação DeleteSessionda API.
Considerações
Antes de criar e gerenciar sessões, verifique o seguinte:
-
Você pode criar e gerenciar sessões com as APIs e AWS SDKs do Amazon Bedrock. Você não pode usar o AWS Management Console para gerenciar sessões.
-
Para aplicativos de agentes baseados em LangGraph, você pode usar a
BedrockSessionSaverclasse dalangchain-awsbiblioteca. Essa é uma implementação personalizada do LangGraph CheckpointSaver. Para obter informações sobre como usar a BedrockSessionSaver biblioteca, consulteGerencie sessões com a BedrockSessionSaver LangGraph biblioteca. Para ver o código diretamente, consulte langgraph-checkpoint-awsno repositório. LangChain GitHub -
Se você especificar uma AWS KMS chave gerenciada pelo cliente ao criar uma sessão, o usuário ou a função que está criando a sessão deverá ter permissão para usar a chave. Para obter mais informações, Criptografia de sessão.
-
As APIs de gerenciamento de sessão têm as seguintes cotas:
-
Número de etapas de invocação em uma sessão em todas as invocações: 1.000.
-
Tamanho máximo de cada etapa de invocação: 50 MB.
-
IdleSession Tempo limite — 1 hora
-
Período de retenção: os dados da sessão são excluídos automaticamente após trinta dias.
-
