View a markdown version of this page

CloudWatch SageMaker AI Insights 시작하기 - Amazon CloudWatch
1단계: OTel 보강 활성화2단계: 엔드포인트 구성 확인3단계: 엔드포인트가 InService 상태인지 확인4단계: SageMaker AI Insights 열기5단계: 데이터가 흐르고 있는지 확인필수 권한

CloudWatch SageMaker AI Insights 시작하기

다음 단계에 따라 추론 엔드포인트에 대해 SageMaker AI Insights를 활성화하고 액세스합니다.

엔드포인트에서 세부 관찰성 지표를 활성화하는 방법에 대한 전체 설정 안내서는 SageMaker AI 개발자 안내서의 SageMaker AI 세부 관찰성을 참조하세요.

1단계: OTel 보강 활성화

SageMaker AI Insights를 사용하려면 계정에서 OTel 지표 보강 및 리소스 태그를 활성화해야 합니다.

OTel 보강 활성화(콘솔)

  1. CloudWatch 콘솔을 열고 설정을 선택합니다.

  2. OTel 지표 보강을 활성화합니다.

  3. 원격 측정을 위한 리소스 태그를 활성화합니다.

AWS CLI를 사용하여 OTel 보강을 활성화하려면 다음 명령을 사용합니다.

aws cloudwatch start-otel-enrichment
aws observabilityadmin start-telemetry-enrichment

2단계: 엔드포인트 구성 확인

엔드포인트 구성에서 EnableDetailedObservability가 true로 설정되어 있는지 확인합니다. 이는 새 엔드포인트의 기본값입니다.

aws sagemaker describe-endpoint-config --endpoint-config-name name
# Look for "EnableDetailedObservability": true

활성화되지 않은 경우 플래그가 true로 설정된 새 엔드포인트 구성을 생성하고 엔드포인트를 업데이트합니다.

3단계: 엔드포인트가 InService 상태인지 확인

엔드포인트가 InService 상태인지 확인합니다.

aws sagemaker describe-endpoint --endpoint-name name --query "EndpointStatus"

예상 출력은 "InService"입니다.

4단계: SageMaker AI Insights 열기

다음 경로 중 하나를 사용하여 대시보드로 이동합니다.

  • CloudWatch 콘솔 → 인프라 모니터링 → SageMaker AI Insights

  • SageMaker AI 콘솔 → 엔드포인트 → SageMaker AI Insights 열기 선택

  • SageMaker AI 콘솔 → 엔드포인트 세부 정보 페이지 → SageMaker AI Insights에서 보기 선택

5단계: 데이터가 흐르고 있는지 확인

2~3분 후 대시보드는 다음 데이터로 채워집니다.

  • 요약 표시줄의 호출 수

  • 성능 탭의 인스턴스 및 추론 구성 요소(IC) 데이터

  • 용량 탭의 사용률 지표

작은 정보

데이터 없음이 표시되면 OTel 보강이 활성화되어 있고 엔드포인트가 2~3분 이상 InService 상태로 지속되는지 확인합니다.

SageMaker AI Insights에 필요한 권한

SageMaker AI Insights를 사용하려면 특정한 IAM 권한이 필요합니다. 다음 정책에는 SageMaker AI Insights를 사용하는 데 필요한 권한이 포함되어 있습니다.

{
    "Effect": "Allow",
    "Action": [
        "cloudwatch:GetMetricData",
        "cloudwatch:ListMetrics",
        "cloudwatch:DescribeAlarms",
        "sagemaker:DescribeEndpoint",
        "sagemaker:DescribeEndpointConfig",
        "sagemaker:ListEndpoints",
        "sagemaker:ListInferenceComponents"
    ],
    "Resource": "*"
}