

# モニタリングAWS GlueSpark ジョブ
<a name="monitor-spark"></a>

**Topics**
+ [AWS Glue Studio で使用可能な Spark メトリクス](#console-jobs-details-metrics-spark)
+ [Apache Spark ウェブ UI を使用したジョブのモニタリング](monitor-spark-ui.md)
+ [AWS Glue ジョブ実行インサイトでのモニタリング](monitor-job-insights.md)
+ [Amazon CloudWatch によるモニタリング](monitor-cloudwatch.md)
+ [ジョブのモニタリングとデバッグ](monitor-profile-glue-job-cloudwatch-metrics.md)

## AWS Glue Studio で使用可能な Spark メトリクス
<a name="console-jobs-details-metrics-spark"></a>

[**Metrics**] (メトリクス) タブには、ジョブが実行され実行とプロファイリングが有効になっているときに収集されるメトリクスが表示されます。以下のグラフが Spark ジョブに表示されます。
+ ETL データ移動
+ メモリプロファイル: ドライバーおよびエグゼキュター

[**View additional metrics (追加のメトリクスの表示)**] を選択し、以下のグラフを表示します。
+ ETL データ移動
+ メモリプロファイル: ドライバーおよびエグゼキュター
+ エグゼキュター間のデータシャッフル
+ CPU 負荷: ドライバーおよびエグゼキュター
+ ジョブの実行: アクティブなエグゼキュター、完了したステージ、必要な最大エグゼキュター

これらのグラフのデータは、ジョブでメトリクスの収集が有効になっている場合に CloudWatch メトリクスにプッシュされます。メトリクスを有効にしてグラフを解釈する方法の詳細については、「[ジョブのモニタリングとデバッグ](monitor-profile-glue-job-cloudwatch-metrics.md)」を参照してください。

**Example ETL データ移動グラフ**  
ETL データ移動グラフには、以下のメトリクスが表示されます。  
+ すべてのエグゼキュターにより Amazon S3 から読み取られたバイト数 – [`glue.ALL.s3.filesystem.read_bytes`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.ALL.s3.filesystem.read_bytes)
+ すべてのエグゼキュターにより Amazon S3 に書き込まれたバイト数 – [`glue.ALL.s3.filesystem.write_bytes`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.ALL.s3.filesystem.write_bytes)

![AWS Glue コンソールの [Metrics] (メトリクス) タブに表示された ETL データ変動のグラフ。](http://docs.aws.amazon.com/ja_jp/glue/latest/dg/images/job_detailed_etl.png)


**Example メモリプロファイルグラフ**  
メモリプロファイルグラフには、以下のメトリクスが表示されます。  
+ このドライバーの JVM ヒープにより使用されるメモリの割合を、スケール 0～1 で、ドライバーごと、*executorId* により識別されるエグゼキュターごと、またはすべてのエグゼキュターごとに表示 –
  + [`glue.driver.jvm.heap.usage`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.driver.jvm.heap.usage)
  + [`glue.executorId.jvm.heap.usage`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.executorId.jvm.heap.usage)
  + [`glue.ALL.jvm.heap.usage`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.ALL.jvm.heap.usage)

![AWS Glue コンソールの [Metrics] (メトリクス) タブに表示されたメモリプロファイルのグラフ。](http://docs.aws.amazon.com/ja_jp/glue/latest/dg/images/job_detailed_mem.png)


**Example エグゼキュター間のデータシャッフルグラフ**  
エグゼキュター間でのデータシャッフルグラフには、以下のメトリクスが表示されます。  
+ すべてのエグゼキュター間でデータをシャッフルするためにそれらのエグゼキュターにより読み取られたバイト数 — [`glue.driver.aggregate.shuffleLocalBytesRead`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.driver.aggregate.shuffleLocalBytesRead)
+ すべてのエグゼキュター間でデータをシャッフルするためにそれらのエグゼキュターにより書き込まれたバイト数 — [`glue.driver.aggregate.shuffleBytesWritten`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.driver.aggregate.shuffleBytesWritten)

![AWS Glue コンソールの [Metrics] (メトリクス) タブに表示されたエグゼキュター間でのデータシャッフルのグラフ。](http://docs.aws.amazon.com/ja_jp/glue/latest/dg/images/job_detailed_data.png)


**Example CPU ロードグラフ**  
CPU ロードグラフには、以下のメトリクスが表示されます。  
+ 使用された CPU システムロードの割合を、スケール 0～1 で、ドライバーごと、*executorId* により識別されるエグゼキュターごと、またはすべてのエグゼキュターごとに表示 –
  + [`glue.driver.system.cpuSystemLoad`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.driver.system.cpuSystemLoad)
  + [`glue.executorId.system.cpuSystemLoad`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.executorId.system.cpuSystemLoad)
  + [`glue.ALL.system.cpuSystemLoad`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.ALL.system.cpuSystemLoad)

![AWS Glue コンソールの [Metrics] (メトリクス) タブに表示された CPU ロードのグラフ。](http://docs.aws.amazon.com/ja_jp/glue/latest/dg/images/job_detailed_cpu.png)


**Example ジョブの実行グラフ**  
ジョブの実行グラフには、以下のメトリクスが表示されます。  
+ アクティブに実行されているエグゼキュターの数 — [`glue.driver.ExecutorAllocationManager.executors.numberAllExecutors`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.driver.ExecutorAllocationManager.executors.numberAllExecutors)
+ 完了したステージの数 — [`glue.aggregate.numCompletedStages`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.driver.aggregate.numCompletedStages)
+ 必要なエグゼキュターの最大数 — [`glue.driver.ExecutorAllocationManager.executors.numberMaxNeededExecutors`](monitoring-awsglue-with-cloudwatch-metrics.md#glue.driver.ExecutorAllocationManager.executors.numberMaxNeededExecutors)

![AWS Glue コンソールの [Metrics] (メトリクス) タブに表示されたジョブの実行のグラフ。](http://docs.aws.amazon.com/ja_jp/glue/latest/dg/images/job_detailed_exec.png)
