| この記事の要点 |
|
このカテゴリについて
DB・データ交換系は、データの永続化と大量受け渡しを担うバイナリ/テキスト形式群です。Web 系の JSON / CSV と異なり、こちらは「数十 GB を秒で読み書きする」「スキーマを厳格に持つ」「並列処理しやすい」といったデータ処理の効率に特化しています。
2020 年代のデータ基盤では、CSV → Parquet への移行が常識化しました。同じ集計を実行したとき、Parquet は10〜100 倍速く、容量も 1/5〜1/10 になるからです。Spark / BigQuery / Snowflake / Athena といったクラウド DWH はすべて Parquet を第一級でサポートします。
データベース・データ交換で扱う主な拡張子
| 拡張子 | 概要 |
|---|---|
.sql | SQL スクリプト。mysqldump / pg_dump の出力 |
.sqlite / .sqlite3 / .db | SQLite データベース。1 ファイルで完結 |
.mdb / .accdb | Microsoft Access |
.parquet | Apache Parquet。列指向、Snappy/zstd 圧縮 |
.orc | Apache ORC。Hive 由来の列指向 |
.avro | Apache Avro。行指向 + スキーマ埋め込み |
.feather / .ipc | Apache Arrow IPC。インメモリ → ディスク |
.ndjson / .jsonl | Newline-Delimited JSON。1 行 1 レコード |
.bson | Binary JSON。MongoDB 内部形式 |
.proto | Protocol Buffers スキーマ |
.dump / .bak | DB バックアップ汎用 |
用途別の使い分け
| 目的 | 推奨形式 | 理由 |
|---|---|---|
| モバイルアプリのローカル DB | .sqlite | 1 ファイル、トランザクション、デファクト |
| DWH での大量集計 | .parquet | 列指向で圧縮率・読込み速度ともに最強 |
| Kafka / ストリーミング | .avro | スキーマ進化、コンパクト |
| ETL の中間データ | .parquet / .feather | Spark / Pandas 双方で高速ロード |
| 1 件ずつ追記したいログ | .ndjson | 標準ツールで読める、追記可能 |
| DB バックアップ | .sql.gz / .dump | テキスト or バイナリのフルダンプ |
| gRPC スキーマ | .proto | 言語非依存、コード生成可 |
関連カテゴリ・記事
- ファイル拡張子とは(概論)
- データベース(カテゴリ)
- SQLite
- テキスト・ドキュメント形式 — CSV / TSV との比較
子ページ
同階層のページ
人気ページ
- 1 Eclipseで「サーバーに追加または除去できるリソースがありません。」の原因と対処法
- 2 tomcat の起動 / 停止ログと catalina.log・catalina.out の違い
- 3 JavaScript で base URL を取得する方法|window.location.origin
- 4 YouTube Data API v3 エラー一覧|403・400・404 の原因と対処
- 5 Laravel エラー一覧|500/Blade/DB 接続/ルーティングの代表エラー
- 6 3Dグラフィックスとは|モデリング/レンダリング/主要ソフトウェア (Blender / Maya)
- 7 Spring Frameworkのアノテーション一覧
- 8 【Spring】@Valueアノテーションとは
- 9 CATALINA_HOME の確認方法 (Linux / Mac)
- 10 【Spring】@Autowiredアノテーションとは
最近更新/作成されたページ
- Git pushした変更の取消し|revert・履歴変更と保護の注意点 2026-10-15 23:49:01
- Gitでローカルを戻す前に|reset・restoreの違いと退避範囲 2026-10-15 23:49:01
- Git rebaseの使い方|対象範囲・競合解決・pushの判断 2026-10-15 22:50:59
- Git pullの使い方|取込み先・ff-only・競合とstashの注意点 2026-10-15 22:50:59
- Git pushの使い方|送信先・タグ・force-with-leaseの条件 2026-10-15 22:12:47
- Git remoteの設定・確認・削除|SSH URLとfetch/pushの違い 2026-10-15 22:12:47
- Gitリモートリポジトリの作成|初回push・既存履歴・mirrorの注意 2026-10-15 15:48:16
- Gitのuser.name・user.email設定|local/global・確認と過去履歴の注意 2026-10-15 15:30:07
- LinuxにGitをインストール|配布元・初期設定・TLSと認証の確認 2026-10-15 15:30:06
- Git導入と初回push|Linuxサーバー・Windows/macOS・SSH設定 2026-10-15 14:51:54
- Db2のCREATE INDEX|索引定義・INCLUDEと実行計画の確認 2026-10-15 14:10:22
- Db2の自動採番|IDENTITY・ID取得とRESTARTの注意点 2026-10-15 14:10:22
- 【DB2】特定スキーマの全テーブルの全カラム情報を取得する方法 2026-10-15 13:53:15
- Db2のシーケンスとIDENTITYの違い|採番とカタログの確認SQL 2026-10-15 13:53:15
- Db2で複数カラムをUPDATEする方法|SET・WHEREと更新前の値 2026-10-15 13:53:15