View a markdown version of this page

監控批次推論任務 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

監控批次推論任務

除了您為批次推論任務設定的組態之外，您也可以查看其狀態來監控其進度。如需任務可能狀態的詳細資訊，請參閱 ModelInvocationJobSummary 中的 status 欄位。

若要追蹤任務的進度，您可以使用 GetModelInvocationJob 和 ListModelInvocationJobs API 操作傳回的進度計數器。這些計數器會顯示輸入記錄的總數，以及服務已處理的數量。您可以在不檢查 Amazon S3 輸出儲存貯體的情況下監控完成。或者，您可以在包含輸出manifest.json.out檔案的 Amazon S3 儲存貯體的 檔案中找到這些號碼。如需詳細資訊，請參閱檢視批次推論任務的結果。若要了解如何下載 S3 物件，請參閱下載物件。

提示

您可以使用 Amazon EventBridge 在批次推論任務完成或變更狀態時接收自動通知，而不是輪詢任務狀態。如需詳細資訊，請參閱使用 Amazon EventBridge 監控 Amazon Bedrock 任務狀態變更。

若要了解如何檢視批次推論任務的詳細資訊，請選擇您偏好方法的索引標籤，然後遵循下列步驟：

Console
檢視批次推論任務的相關資訊

  1. AWS 管理主控台 使用具有使用 Amazon Bedrock 主控台之許可的 IAM 身分登入 。接著，開啟位於 https://console.aws.amazon.com/bedrock 的 Amazon Bedrock 主控台。

  2. 從左側導覽窗格中，選取批次推論。

  3. 在批次推論任務區段中，選擇任務。

  4. 在任務詳細資訊頁面上，您可以檢視任務組態的相關資訊，並透過檢視其狀態來監控其進度。

API

若要取得批次推論任務的相關資訊，請使用 Amazon Bedrock 控制平面端點傳送 GetModelInvocationJob 請求，並在 jobIdentifier 欄位中提供任務的 ID 或 ARN。

若要列出多個批次推論任務的相關資訊，請使用 Amazon Bedrock 控制平面端點傳送 ListModelInvocationJobs 請求。您可以指定以下選用參數：

欄位 簡短描述
maxResults 回應傳回的結果數目上限。
nextToken 如果結果多於您在 maxResults 欄位中指定的數字，則回應會傳回 nextToken 值。若要查看下一批結果，請在另一個請求中傳送 nextToken 值。

GetModelInvocationJob 和 的回應ListModelInvocationJobs包含指出任務是否使用 InvokeModel或 Converse API 格式modelInvocationType的欄位。

回應也包含下列欄位，您可以用來追蹤執行中任務的進度：

  • totalRecordCount – 提交至批次推論任務的記錄總數。

  • processedRecordCount – 到目前為止處理的記錄數量，其中包括成功和錯誤。

  • successRecordCount – 到目前為止成功處理的記錄數量。

  • errorRecordCount – 在處理期間導致錯誤的記錄數目。

若要計算執行中任務的進度百分比，請除processedRecordCount以 totalRecordCount。當您提交任務但處理尚未開始0時，計數器會傳回。當任務進行時，計數器最多可能會延遲 1 分鐘。

若要列出任務的所有標籤，請使用 Amazon Bedrock 控制平面端點傳送 ListTagsForResource 請求，並包含任務的 Amazon Resource Name (ARN)。