Solución de problemas de Información de SageMaker AI
En las siguientes secciones se describen problemas y soluciones habituales del panel de Información de SageMaker AI de CloudWatch. Si su problema no aparece aquí, compruebe que el punto de conexión tenga el estado InService y que el enriquecimiento de OTel esté activado en la cuenta.
El panel muestra el mensaje “No hay datos” en todos los paneles
Causa: el enriquecimiento de OTel no está habilitado en la cuenta.
Solución:
Abra la consola de CloudWatch y seleccione Configuración.
Active Enriquecimiento de métricas de OTel.
Active Etiquetas de recursos para telemetría.
Espere de 2 a 3 minutos para que las métricas comiencen a fluir.
También puede activar el enriquecimiento de OTel con los siguientes comandos de la AWS CLI.
aws cloudwatch start-otel-enrichment aws observabilityadmin start-telemetry-enrichment
Las columnas de TTFT, TPS y cachñe KV muestran un guion
Causa: estas métricas solo están disponibles para los puntos de conexión que utilizan los marcos vLLM o SGLang. Los puntos de conexión que utilizan otros marcos (TensorRT‐LLM, contenedores personalizados) no emiten estas métricas.
Solución: no es necesario realizar ninguna acción; este es el comportamiento esperado.
Información de SageMaker AI redirige a Información sobre las bases de datos
Causa: problema conocido en algunas cuentas.
Solución alternativa: en la URL redirigida, sustituya instances por endpoints. A continuación, el panel se carga correctamente.
El panel se carga, pero muestra 0 invocaciones
Causa: el punto de conexión tiene el estado InService, pero no recibe tráfico o el intervalo de tiempo seleccionado no tiene invocaciones.
Solución:
Envíe las invocaciones de prueba al punto de conexión.
Ajuste el intervalo de tiempo a un periodo en el que el tráfico estuviera activo.
Las métricas aparecen en CloudWatch, pero no en Información de SageMaker AI
Causa: es posible que EnableDetailedObservability no esté configurado en true en la configuración de punto de conexión.
Solución: compruebe la configuración de punto de conexión con el siguiente comando.
aws sagemaker describe-endpoint-config --endpoint-config-namename# Look for "EnableDetailedObservability": true
La tabla de eventos de escalado está vacía
Causa: Application Auto Scaling no está configurado o no se ha producido ningún evento de escalado en el intervalo de tiempo seleccionado.
Solución:
Configure una política de escalado automático para su punto de conexión.
Ajuste el intervalo de tiempo para incluir los periodos en los que se produjeron los eventos de escalado.
