View a markdown version of this page

Introducción a Información de SageMaker AI de CloudWatch - Amazon CloudWatch
Paso 1: habilitación del enriquecimiento de OTelPaso 2: comprobación de la configuración de punto de conexiónPaso 3: confirmación de que el punto de conexión está inServicePaso 4: inicio de Información de SageMaker AIPaso 5: comprobación de que los datos fluyenPermisos necesarios

Introducción a Información de SageMaker AI de CloudWatch

Siga estos pasos para activar y acceder a Información de SageMaker AI para sus puntos de conexión de inferencia.

Para ver la guía de configuración completa sobre cómo activar las métricas de observabilidad detalladas en sus puntos de conexión, consulte SageMaker AI detailed observability en la Guía para desarrolladores de SageMaker AI.

Paso 1: habilitación del enriquecimiento de OTel

Información de SageMaker AI requiere que el enriquecimiento de métricas de OTel y las etiquetas de recursos estén activadas en su cuenta.

Activación del enriquecimiento de OTel (consola)

  1. Abra la consola de CloudWatch y seleccione Configuración.

  2. Active Enriquecimiento de métricas de OTel.

  3. Active Etiquetas de recursos para telemetría.

Para activar el enriquecimiento de OTel con la AWS CLI, utilice los siguientes comandos.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

Paso 2: comprobación de la configuración de punto de conexión

Asegúrese de que EnableDetailedObservability esté configurado en true en la configuración de punto de conexión. Este es el valor predeterminado de los nuevos puntos de conexión.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

Si no está activada, cree una nueva configuración de punto de conexión con la marca establecida en true y actualice el punto de conexión.

Paso 3: confirmación de que el punto de conexión está inService

Confirme que el punto de conexión esté en el estado InService.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

El resultado esperado es "InService".

Paso 4: inicio de Información de SageMaker AI

Navegue hasta el panel mediante cualquiera de las siguientes rutas.

  • Consola de CloudWatch → Supervisión de infraestructuras → Información de SageMaker AI

  • Consola de SageMaker AI → Puntos de conexión → elija Abrir Información de SageMaker AI

  • Consola de SageMaker AI → página de detalles de los puntos de conexión → elija Ver en Información de SageMaker AI

Paso 5: comprobación de que los datos fluyen

Tras 2 o 3 minutos, el panel debería incluir los siguientes datos.

  • Recuentos de invocaciones en la barra de resumen

  • Datos de instancias y componentes de inferencia (IC) en la pestaña Rendimiento

  • Métricas de utilización en la pestaña Capacidad

sugerencia

Si aparece Sin datos, compruebe que el enriquecimiento de OTel esté activado y que el punto de conexión haya tenido el estado InService durante al menos 2 o 3 minutos.

Permisos necesarios para Información de SageMaker AI

Para usar Información de SageMaker AI se necesitan determinados permisos de IAM. La siguiente política contiene los permisos necesarios para utilizar Información de SageMaker AI.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}