View a markdown version of this page

배치 추론 작업 모니터링 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

배치 추론 작업 모니터링

배치 추론 작업에 대해 설정한 구성 외에도 작업의 상태를 확인하여 진행 상황을 모니터링할 수도 있습니다. 작업의 가능한 상태에 대한 자세한 내용은 ModelInvocationJobSummary의 status 필드를 참조하세요.

작업 진행 상황을 추적하기 위해 GetModelInvocationJob 및 ListModelInvocationJobs API 작업이 반환하는 진행률 카운터를 사용할 수 있습니다. 이러한 카운터는 총 입력 레코드 수와 서비스가 처리한 수를 보여줍니다. Amazon S3 출력 버킷을 확인하지 않고도 완료를 모니터링할 수 있습니다. 또는 출력 manifest.json.out 파일이 포함된 Amazon S3 버킷의 파일에서 이러한 번호를 찾을 수 있습니다. 자세한 내용은 배치 추론 작업 결과 확인 단원을 참조하십시오. S3 객체를 다운로드하는 방법을 알아보려면 객체 다운로드를 참조하세요.

작은 정보

작업 상태에 대해 폴링하는 대신 Amazon EventBridge를 사용하여 배치 추론 작업이 완료되거나 상태가 변경될 때 자동 알림을 받을 수 있습니다. 자세한 내용은 Amazon EventBridge를 사용하여 Amazon Bedrock 작업 상태 변경 모니터링 단원을 참조하십시오.

배치 추론 작업의 세부 정보를 보는 방법을 알아보려면 원하는 방법의 탭을 선택한 후 다음 단계를 따릅니다.

Console
배치 추론 작업에 대한 정보를 보는 방법

  1. Amazon Bedrock 콘솔을 사용할 권한이 있는 IAM 자격 증명 AWS Management Console 으로에 로그인합니다. 그 다음 https://console.aws.amazon.com/bedrock에서 Amazon Bedrock 콘솔을 엽니다.

  2. 왼쪽 탐색 창에서 배치 추론을 선택합니다.

  3. 배치 추론 작업 섹션에서 작업을 선택합니다.

  4. 작업 세부 정보 페이지에서 작업의 구성에 대한 정보를 보고 상태를 확인하여 진행 상황을 모니터링할 수 있습니다.

API

배치 추론 작업에 대한 정보를 가져오려면 Amazon Bedrock 컨트롤 플레인 엔드포인트를 사용하여 GetModelInvocationJob 요청을 보내고 jobIdentifier 필드에 작업의 ID 또는 ARN을 제공합니다.

여러 배치 추론 작업에 대한 정보를 나열하려면 Amazon Bedrock 컨트롤 플레인 엔드포인트를 사용하여 ListModelInvocationJobs 요청을 전송합니다. 필요한 경우 다음 파라미터를 지정할 수도 있습니다.

Field 간단한 설명
maxResults 응답으로 반환할 최대 결과 수입니다.
nextToken maxResults 필드에 지정한 수보다 많은 결과가 있는 경우 응답은 nextToken 값을 반환합니다. 다음 결과 배치를 보려면 다른 요청에서 nextToken 값을 보냅니다.

GetModelInvocationJob 및에 대한 응답에는 작업이 InvokeModel 또는 Converse API 형식을 사용하는지 여부를 나타내는 modelInvocationType 필드가 ListModelInvocationJobs 포함됩니다.

응답에는 실행 중인 작업의 진행 상황을 추적하는 데 사용할 수 있는 다음 필드도 포함됩니다.

  • totalRecordCount - 배치 추론 작업에 제출된 총 레코드 수입니다.

  • processedRecordCount - 지금까지 처리된 레코드 수로, 성공과 오류를 모두 포함합니다.

  • successRecordCount - 지금까지 성공적으로 처리된 레코드 수입니다.

  • errorRecordCount - 처리 중에 오류를 일으킨 레코드 수입니다.

실행 중인 작업의 진행률을 계산하려면를 processedRecordCount로 나눕니다totalRecordCount. 작업을 제출했지만 처리가 아직 시작되지 않은 0 경우 카운터가 반환됩니다. 작업이 진행되는 동안 카운터가 최대 1분 지연될 수 있습니다.

작업에 대해 모든 태그를 나열하려면 Amazon Bedrock 컨트롤 플레인 엔드포인트를 사용하여 ListTagsForResource 요청을 전송하고 작업의 Amazon 리소스 이름(ARN)을 포함합니다.