View a markdown version of this page

Monitore os agentes Amazon Bedrock usando métricas CloudWatch - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Monitore os agentes Amazon Bedrock usando métricas CloudWatch

A tabela a seguir descreve as métricas de tempo de execução fornecidas pelos Amazon Bedrock Agents que você pode monitorar com o Amazon CloudWatch Metrics.

Métricas de runtime

Nome da métrica Unidade Description
InvocationCount SampleCount Número de solicitações para a operação de API .
TotalTime Milissegundos O tempo necessário para o servidor processar a solicitação.
TTFT Milissegundos Time-to-first-token métrica. Emitida quando a configuração de streaming está habilitada para uma solicitação invokeAgent ou invokeInlineAgent.
InvocationThrottles SampleCount Número de invocações que o sistema limitou. As solicitações com controle de utilização e outros erros de invocação não são consideradas invocações nem erros.
InvocationServerErrors SampleCount Número de invocações que resultam em AWS erros do lado do servidor
InvocationClientErrors SampleCount Número de invocações que resultam em erros do lado do cliente.
ModelLatency Milissegundos A latência do modelo.
ModelInvocationCount SampleCount Número de solicitações que o agente fez ao modelo.
ModelInvocationThrottles SampleCount Número de invocações do modelo com controle de utilização do nó central do Amazon Bedrock. As solicitações com controle de utilização e outros erros de invocação não são consideradas invocações nem erros.
ModelInvocationClientErrors SampleCount Número de invocações do modelo que resultam em erros do lado do cliente.
ModelInvocationServerErrors SampleCount Número de invocações de modelo que resultam em AWS erros do lado do servidor
InputTokenCount SampleCount Número de entradas de token no modelo.
outputTokenCount SampleCount Número de saídas de token do modelo.

Você pode visualizar as dimensões do agente no CloudWatch console com base na tabela abaixo:

Dimensão

Nome da dimensão Valores de dimensão Disponíveis para as métricas a seguir
Operation InvokeAgent, InvokeInlineAgent
  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErros

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Operação, ModelId Qualquer operação de agente do Amazon Bedrock listada na dimensão Operation e o modelId de qualquer modelo principal do nó central do Amazon Bedrock.
  • TotalTime

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErros

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Operação, AgentAliasArn, ModelId Qualquer operação de agente do Amazon Bedrock listada na dimensão Operation e qualquer modelId de um modelo do Amazon Bedrock, agrupados pelo agentAliasArn e um alias de agente.
  • InvocationCount

  • TotalTime

  • TTFT

  • InvocationThrottles

  • InvocationServerErrors

  • InvocationClientErrors

  • ModelLatency

  • ModelInvocationCount

  • ModelInvocationThrottles

  • ModelInvocationCLientErros

  • ModelInvocationServerErrors

  • InputTokenCount

  • OutputTokenCount

Use CloudWatch métricas para agentes

Você pode obter métricas para agentes com o AWS Management Console, a AWS CLI ou a CloudWatch API. Você pode usar a CloudWatch API por meio de um dos kits de desenvolvimento de AWS software (SDKs) ou das ferramentas da CloudWatch API.

O namespace para métricas do agente em CloudWatch é. AWS/Bedrock/Agents

Você deve ter as CloudWatch permissões apropriadas para monitorar os agentes CloudWatch. Para obter mais informações, consulte Autenticação e controle de acesso CloudWatch no Guia CloudWatch do usuário.

Importante

Se você não quiser CloudWatch usar os dados coletados para melhorar o CloudWatch serviço, você pode criar uma política de exclusão. Para ter mais informações, consulte Políticas de cancelamento de serviços de IA.

Se você não estiver vendo métricas publicadas no CloudWatch painel, certifique-se de que a função de serviço do IAM que você usou para criar o agente tenha a seguinte política.

JSON
{ "Version":"2012-10-17", "Statement": { "Effect": "Allow", "Resource": "*", "Action": "cloudwatch:PutMetricData", "Condition": { "StringEquals": { "cloudwatch:namespace": "AWS/Bedrock/Agents" } } } }