View a markdown version of this page

Überwachen von Batch-Inferenzaufträgen - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Überwachen von Batch-Inferenzaufträgen

Sie können nicht nur Konfigurationen für einen Batch-Inferenzauftrag festlegen, sondern auch dessen Fortschritt anhand seines Status überwachen. Weitere Informationen zu den möglichen Status eines Jobs finden Sie in ModelInvocationJobSummarydem status Feld unter.

Um den Fortschritt eines Jobs zu verfolgen, können Sie die Fortschrittszähler verwenden, die von den GetModelInvocationJobListModelInvocationJobsAPI-Vorgängen zurückgegeben werden. Diese Zähler zeigen die Gesamtzahl der Eingabedatensätze und wie viele der Service verarbeitet hat. Sie können den Abschluss überwachen, ohne die Amazon S3 S3-Ausgabe-Buckets zu überprüfen. Alternativ finden Sie diese Zahlen in der manifest.json.out Datei im Amazon S3 S3-Bucket, die die Ausgabedateien enthält. Weitere Informationen finden Sie unter Anzeigen der Ergebnisse eines Batch-Inferenzauftrags. Informationen zum Herunterladen eines S3-Objekts finden Sie unter Herunterladen von Objekten.

Tipp

Anstatt den Auftragsstatus abzufragen, können Sie Amazon verwenden, um automatische Benachrichtigungen EventBridge zu erhalten, wenn ein Batch-Inferenz-Job abgeschlossen ist oder seinen Status ändert. Weitere Informationen finden Sie unter Überwachen Sie Änderungen des Jobstatus von Amazon Bedrock mithilfe von Amazon EventBridge.

Um zu erfahren, wie Sie Details zu Batch-Inferenzaufträgen anzeigen können, wählen Sie die Registerkarte für Ihre bevorzugte Methode aus und folgen dann den Schritten:

Console
So zeigen Sie Informationen zu Batch-Inferenzaufträgen an
  1. Melden Sie sich bei der AWS-Managementkonsole mit einer IAM-Identität an, die berechtigt ist, die Amazon Bedrock-Konsole zu verwenden. Öffnen Sie dann die Amazon Bedrock-Konsole unter https://console.aws.amazon.com/bedrock.

  2. Wählen Sie im linken Navigationsbereich Batch-Inferenz aus.

  3. Wählen Sie im Abschnitt Batch-Inferenzauftrag einen Auftrag aus.

  4. Auf der Auftragsdetailseite können Sie Informationen zur Konfiguration des Auftrags einsehen und dessen Fortschritt anhand seines Status überwachen.

API

Um Informationen über einen Batch-Inferenz-Job zu erhalten, senden Sie eine GetModelInvocationJobAnfrage mit einem Amazon Bedrock-Steuerungsebenen-Endpunkt und geben Sie die ID oder den ARN des Jobs im Feld an. jobIdentifier

Um Informationen über mehrere Batch-Inferenzjobs aufzulisten, senden Sie eine ListModelInvocationJobsAnfrage mit einem Endpunkt der Amazon Bedrock-Steuerebene. Sie können die folgenden optionalen Parameter festlegen:

Feld Kurzbeschreibung
maxResults Hierbei handelt es sich um die maximale Anzahl der Ergebnisse, die in einer Antwort zurückzugeben sind.
nextToken Wenn die Anzahl der Ergebnisse die Anzahl übersteigt, die Sie im Feld maxResults angegeben haben, gibt die Antwort einen nextToken-Wert zurück. Senden Sie den nextToken-Wert in einer weiteren Anforderung, um den nächsten Ergebnisstapel zu sehen.

Die Antwort für GetModelInvocationJob und ListModelInvocationJobs enthält ein modelInvocationType Feld, das angibt, ob der Job das InvokeModel oder das Converse API-Format verwendet.

Die Antwort umfasst auch die folgenden Felder, mit denen Sie den Fortschritt eines laufenden Jobs verfolgen können:

  • totalRecordCount— Die Gesamtzahl der Datensätze, die an den Batch-Inferenzjob gesendet wurden.

  • processedRecordCount— Die Anzahl der bisher verarbeiteten Datensätze, die sowohl Erfolge als auch Fehler umfasst.

  • successRecordCount— Die Anzahl der bisher erfolgreich verarbeiteten Datensätze.

  • errorRecordCount— Die Anzahl der Datensätze, die bei der Verarbeitung zu Fehlern geführt haben.

Um den prozentualen Fortschritt eines laufenden Jobs zu berechnen, dividieren Sie processedRecordCount durchtotalRecordCount. Die Zähler kehren zurück0, wenn Sie einen Job weiterleiten, die Verarbeitung aber noch nicht begonnen hat. Während ein Auftrag ausgeführt wird, können sich die Zähler um bis zu 1 Minute verzögern.

Um alle Tags für einen Job aufzulisten, senden Sie eine ListTagsForResourceAnfrage mit einem Endpunkt der Amazon Bedrock-Steuerebene und geben Sie den Amazon-Ressourcennamen (ARN) des Jobs an.