Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Überwachen der Leistung von Amazon Bedrock
Sie können alle Teile Ihrer Amazon Bedrock-Anwendung mithilfe von Amazon überwachen. Amazon CloudWatch sammelt Rohdaten und verarbeitet sie zu lesbaren, nahezu in Echtzeit verfügbaren Metriken. Sie können die Metriken mithilfe der CloudWatch Konsole grafisch darstellen. Sie können auch Alarme einrichten, die auf bestimmte Grenzwerte achten und Benachrichtigungen senden oder Aktivitäten auslösen, wenn diese Grenzwerte überschritten werden.
Weitere Informationen finden Sie unter Was ist Amazon CloudWatch im CloudWatch Amazon-Benutzerhandbuch.
Amazon Bedrock bietet umfassende Überwachungsfunktionen für verschiedene Komponenten Ihrer Anwendung:
-
Überwachen Sie den Modellaufruf mithilfe von CloudWatch Logs und Amazon S3- Verfolgen und analysieren Sie Modellaufrufe mithilfe von CloudWatch Logs und Amazon S3.
-
Überwachen Sie Wissensdatenbanken mithilfe von CloudWatch Protokollen- Überwachen Sie den Betrieb und die Leistung der Wissensdatenbank.
-
Überwachen Sie Amazon Bedrock Guardrails mithilfe von Metriken CloudWatch- Verfolgen Sie die Bewertungen der Leitplanken und die Durchsetzung von Richtlinien.
-
Überwachen Sie Amazon Bedrock Agents mithilfe von Metriken CloudWatch- Überwachen Sie die Aufrufe von Agenten und Leistungskennzahlen.
-
Amazon-Bedrock-Laufzeitmetrik- Sehen Sie sich wichtige Laufzeitmetriken an, darunter Aufrufe, Latenz, Fehler und Token-Anzahl.
-
Überwachen Sie Änderungen des Jobstatus von Amazon Bedrock mithilfe von Amazon EventBridge- Verfolgen Sie Änderungen des Auftragsstatus und automatisieren Sie die Reaktion auf Ereignisse.
-
Überwachen Sie Amazon Bedrock API-Aufrufe mit CloudTrail- API-Aufrufe prüfen und Benutzeraktivitäten verfolgen.
Themen
Überwachen Sie den Modellaufruf mithilfe von CloudWatch Logs und Amazon S3
Überwachen Sie Wissensdatenbanken mithilfe von CloudWatch Protokollen
Überwachen Sie Amazon Bedrock Guardrails mithilfe von Metriken CloudWatch
Überwachen Sie Amazon Bedrock Agents mithilfe von Metriken CloudWatch
Überwachen Sie Änderungen des Jobstatus von Amazon Bedrock mithilfe von Amazon EventBridge
Amazon-Bedrock-Laufzeitmetrik
In der folgenden Tabelle werden die von Amazon Bedrock bereitgestellten Laufzeitmetriken beschrieben.
| Metrikname | Einheit | Description |
|---|---|---|
| Aufrufe | SampleCount | Anzahl der erfolgreichen Anfragen an die Converse -, ConverseStreamInvokeModel, und InvokeModelWithResponseStreamAPI-Operationen. |
|
InvocationLatency |
MilliSeconds |
Die Zeit vom Senden einer Anfrage bis zum Empfang des letzten Tokens.
|
|
InvocationClientErrors |
SampleCount |
Anzahl der Aufrufe, die zu clientseitigen Fehlern führen |
|
InvocationServerErrors |
SampleCount |
Anzahl der Aufrufe, die zu AWS serverseitigen Fehlern führen. |
|
InvocationThrottles |
SampleCount |
Anzahl der Aufrufe, die das System gedrosselt hat Gedrosselte Anforderungen und andere Aufruffehler zählen nicht als Aufrufe oder Fehler. Die Anzahl der Drosselungen, die Sie sehen, hängt von den Wiederholungseinstellungen im SDK ab. Weitere Informationen finden Sie unter Verhalten bei Wiederholungsversuchen im Referenzhandbuch AWS SDKs und im Tools-Referenzhandbuch. |
|
InputTokenCount |
SampleCount |
Anzahl von Token in der Eingabe |
| LegacyModelInvocations | SampleCount | Anzahl der Aufrufe mit Legacy-Modellen |
|
OutputTokenCount |
SampleCount |
Anzahl von Token in der Ausgabe |
|
OutputImageCount |
SampleCount |
Anzahl der Bilder in der Ausgabe (gilt nur für Modelle zur Bildgenerierung). |
|
TimeToFirstToken |
MilliSeconds |
Zeit vom Senden einer Anfrage bis zum Empfang des ersten Tokens für die ConverseStreamund die InvokeModelWithResponseStreamStreaming-API-Operationen. |
|
Geschätzte TPMQuota Nutzung |
SampleCount |
Geschätzter TPM-Kontingentverbrauch (Tokens per Minute) für die Converse -, ConverseStreamInvokeModel,- und InvokeModelWithResponseStreamAPI-Operationen. |
Es gibt auch Metriken für den Integritätsschutz für Amazon Bedrock und Agenten für Amazon Bedrock.
CloudWatch Metriken für Amazon Bedrock
Für jeden erfolgreichen oder fehlgeschlagenen Zustellversuch werden die folgenden CloudWatch Amazon-Metriken unter dem Namespace AWS/Bedrock und der Across all model IDs Dimension ausgegeben:
-
ModelInvocationLogsCloudWatchDeliverySuccess -
ModelInvocationLogsCloudWatchDeliveryFailure -
ModelInvocationLogsS3DeliverySuccess -
ModelInvocationLogsS3DeliveryFailure -
ModelInvocationLargeDataS3DeliverySuccess -
ModelInvocationLargeDataS3DeliveryFailure
Geben Sie die folgenden Informationen an, um Metriken für Amazon–Bedrock-Operationen abzurufen:
-
Die Metrikdimension. Eine Dimension bezeichnet eine Reihe von Name-Wert-Paaren, mit denen eine Metrik eindeutig identifiziert wird. Amazon Bedrock unterstützt die folgenden Dimensionen:
-
ModelId– alle Metriken -
ModelId + ImageSize + BucketedStepSize– OutputImageCount
-
-
Der Metrikname, beispielsweise
InvocationClientErrors.
Sie können Metriken für Amazon Bedrock mit der AWS-Managementkonsole AWS CLI, der oder der CloudWatch API abrufen. Sie können die CloudWatch API über eines der AWS Software Development Kits (SDKs) oder die CloudWatch API-Tools verwenden.
Um Amazon Bedrock-Metriken in der CloudWatch Konsole anzuzeigen, gehen Sie zum Abschnitt Metriken im Navigationsbereich, wählen Sie die Option Alle Metriken aus und suchen Sie dann nach der Modell-ID.
Sie müssen über die entsprechenden CloudWatch Berechtigungen verfügen, um Amazon Bedrock mit überwachen zu können. CloudWatch Weitere Informationen finden Sie unter Authentifizierung und Zugriffskontrolle für Amazon CloudWatch im CloudWatch Amazon-Benutzerhandbuch.
