本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

# 從無伺服器端點追蹤指標的警示和日誌
<a name="serverless-endpoints-monitoring"></a>

若要監控無伺服器端點，您可以使用 Amazon CloudWatch 警示。CloudWatch 是從您的 AWS 應用程式和資源即時收集指標的服務。警示會在收集指標時監看指標，讓您能夠預先指定閾值和超出該閾值時要採取的動作。例如，如果您的端點超出錯誤閾值，CloudWatch 警示會向您傳送通知。透過設定 CloudWatch 警示，您可以掌握端點的效能和功能。如需有關 CloudWatch 警示的詳細資訊，請參閱 *Amazon CloudWatch 使用者指南*中的[使用 Amazon CloudWatch 警示](https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/AlarmThatSendsEmail.html)。

## 使用 CloudWatch 進行監控
<a name="serverless-endpoints-monitoring-metrics"></a>

以下指標是無伺服器端點的完整指標清單。以下未列出的任何指標都不會針對無伺服器端點發佈。如需下列指標的資訊，請參閱[使用 Amazon CloudWatch 監控 Amazon SageMaker AI](https://docs.aws.amazon.com/sagemaker/latest/dg/monitoring-cloudwatch.html)。

### 常見端點指標
<a name="serverless-endpoints-monitoring-metrics-common"></a>

這些 CloudWatch 指標與針對即時端點發佈的指標相同。

該 `OverheadLatency` 指標會追蹤 SageMaker AI 新增的所有其他延遲，其中包含為無伺服器端點啟動新運算資源的冷啟動時間。與隨需無伺服器端點相比，透過佈建並行的無伺服器端點的 `OverheadLatency` 通常明顯較少。

無伺服器端點也可以使用`Invocations4XXErrors`、`Invocations5XXErrors`、`Invocations`、`ModelLatency`、`ModelSetupTime` 和 `MemoryUtilization` 指標。進一步了解指標，請參閱[SageMaker AI 端點調用指標](monitoring-cloudwatch.md#cloudwatch-metrics-endpoint-invocation)。

### 常見無伺服器端點指標
<a name="serverless-endpoints-monitoring-metrics-serverless"></a>

這些 CloudWatch 指標會透過佈建並行，針對隨需無伺服器端點和無伺服器端點發佈。


| 指標名稱 | 描述 | 單位/統計資料 | 
| --- | --- | --- | 
| ServerlessConcurrentExecutionsUtilization | 並行執行數量除以並行上限。 | 單位：無有效的統計資料：平均、上限、下限 | 

### 透過佈建並行的無伺服器端點指標
<a name="serverless-endpoints-monitoring-metrics-serverless-pc"></a>

這些 CloudWatch 指標是針對使用佈建並行的無伺服器端點發佈。


| 指標名稱 | 描述 | 單位/統計資料 | 
| --- | --- | --- | 
| ServerlessProvisionedConcurrencyExecutions | 端點所處理的並行執行數量。 | 單位：計數有效的統計資料：平均、上限、下限 | 
| ServerlessProvisionedConcurrencyUtilization | 並行執行數量除以已配置的佈建並行。 | 單位：無有效的統計資料：平均、上限、下限 | 
| ServerlessProvisionedConcurrencyInvocations | 由佈建並行處理的 InvokeEndpoint 請求數。 | 單位：計數有效的統計資料：平均、上限、下限 | 
| ServerlessProvisionedConcurrencySpilloverInvocations | 由隨需無伺服器推論處理而未由佈建並行處理的 InvokeEndpoint 請求數。 | 單位：計數有效的統計資料：平均、上限、下限 | 

## 日誌
<a name="serverless-endpoints-monitoring-logs"></a>

如果您想從端點監控日誌進行偵錯或進度分析，可以使用 Amazon CloudWatch Logs。可用於無伺服器端點、由 SageMaker AI 提供的日誌群組為 `/aws/sagemaker/Endpoints/[EndpointName]`。如需了解如何使用 SageMaker AI 中的 CloudWatch 日誌，請參閱 [Amazon SageMaker AI 的 CloudWatch Logs](logging-cloudwatch.md)。如需 CloudWatch 日誌的詳細資訊，請參閱 *Amazon CloudWatch Logs 使用者指南*中的[什麼是 Amazon CloudWatch Logs？](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/WhatIsCloudWatchLogs.html)。