

# Apache Hudi データセットをクエリする
<a name="querying-hudi"></a>

[https://hudi.incubator.apache.org/](https://hudi.incubator.apache.org/) は、増分データ処理を簡素化するオープンソースのデータ管理フレームワークです。レコードレベルの挿入、更新、upsert、および削除アクションは、はるかに細かく処理され、オーバーヘッドを軽減します。`Upsert` は、レコードがまだ存在しない場合は既存のデータセットに挿入し、存在する場合はレコードを更新する機能のことです。

Hudi は、分析のパフォーマンス問題を引き起こす可能性のある小さなファイルを多数作成することなく、データの挿入と更新イベントを処理します。Apache Hudi は自動的に変更を追跡し、ファイルをマージして、最適なサイズを維持します。これにより、多数の小さなファイルをモニタリングし、より少ない数の大きなファイルに書き換えるカスタムソリューションを構築する必要がなくなります。

Hudi データセットは、次のユースケースに適しています。
+ [一般データ保護規則](https://en.wikipedia.org/wiki/General_Data_Protection_Regulation) (GDPR) や[カリフォルニア州消費者プライバシー法](https://en.wikipedia.org/wiki/California_Consumer_Privacy_Act) (CCPA) など、個人情報を削除したり、個人データの使用方法を変更したりする権利を実施するプライバシー規制を遵守する。
+ 特定のデータの挿入および更新イベントを必要とするセンサーやその他のモノのインターネット (IoT) デバイスからのストリーミングデータを操作する。
+ [変更データキャプチャ (CDC) システム](https://en.wikipedia.org/wiki/Change_data_capture)の実装

Hudi データセットは、次のタイプのいずれかになります。
+ **書き込み時コピー (CoW)** – データは列形式 (Parquet) で保存され、更新ごとに書き込み中にファイルの新しいバージョンが作成されます。
+ **読み取り時マージ (MoR)** – データは、列形式 (Parquet) 形式と行形式 (Avro) の組み合わせを使用して保存されます。更新は、行形式の `delta` ファイルに記録され、必要に応じて圧縮されて、新しいバージョンの列形式のファイルが作成されます。

CoW データセットでは、レコードが更新されるたびに、そのレコードを含むファイルが更新された値で書き換えられます。MoR データセットでは、更新があるたびに、Hudi によって変更されたレコードの行のみが書き込まれます。MoR は、読み取りが少なく書き込みまたは変更が多いワークロードに適しています。CoW は、頻繁に変更されないデータの読み取りが多いワークロードに適しています。

Hudi にはデータにアクセスするためのクエリタイプが 3 種類用意されています。
+ **スナップショットクエリ** – 指定されたコミットまたは圧縮アクションの時点で最新のテーブルスナップショットを参照するクエリです。MoR テーブルの場合、スナップショットクエリは、クエリ時に最新のファイルスライスのベースファイルとデルタファイルをマージして、テーブルの最新の状態を提示します。
+ **増分クエリ** – クエリは、指定されたコミット/圧縮以降にテーブルに書き込まれた新しいデータのみを参照します。これにより、増分データパイプラインを有効にするための変更ストリームが効果的に提供されます。
+ **読み取り最適化クエリ** – MoR テーブルの場合、クエリは圧縮された最新のデータを参照します。CoW テーブルの場合、クエリはコミットされた最新のデータを参照します。

次の表は、各テーブルタイプに対して実行できる Hudi クエリタイプを示しています。


| テーブルタイプ | 使用可能な Hudi クエリタイプ | 
| --- | --- | 
| 書き込み時にコピー | スナップショット、増分 | 
| 読み取り時にマージ | スナップショット、増分、読み取り最適化 | 

テーブルとクエリタイプ間でのトレードオフの詳細については、Apache Hudi ドキュメントの「[テーブルとクエリのタイプ](https://hudi.apache.org/docs/table_types/)」を参照してください。

## Hudi 用語の変更: ビューはクエリに変更されました
<a name="querying-hudi-hudi-dataset-table-types-terminology"></a>

Apache Hudi リリースバージョン 0.5.1 以降、以前はビューと呼ばれていたものがクエリと呼ばれるようになりました。次の表は、新旧用語の変更をまとめたものです。


| 旧用語 | 新用語 | 
| --- | --- | 
| CoW: 読み取り最適化ビュー<br />MoR: リアルタイムビュー | スナップショットクエリ | 
| 増分ビュー | 増分クエリ | 
| MoR 読み取り最適化ビュー | 読み取り最適化クエリ | 

**Topics**
+ [Hudi 用語の変更: ビューはクエリに変更されました](#querying-hudi-hudi-dataset-table-types-terminology)
+ [考慮事項と制限事項](querying-hudi-in-athena-considerations-and-limitations.md)
+ [書き込み時コピー (CoW) テーブル作成の例](querying-hudi-copy-on-write-create-table-examples.md)
+ [読み取り時マージ (MOR) テーブル作成の例](querying-hudi-merge-on-read-create-table-examples.md)
+ [Hudi メタデータを使用してパフォーマンスを改善する](querying-hudi-metadata-table.md)
+ [その他のリソース](querying-hudi-additional-resources.md)