127.

zstd (Zstandard) の使い方 - 高速高圧縮の現代標準 | CWiki IT

編集
この記事の要点
  • zstd (Zstandard) は Facebook (Meta) が開発した近代的な高速・高圧縮アルゴリズム
  • gzip 並の速度で xz に近い圧縮率を実現、現在の Linux 系では事実上のデファクト後継
  • 圧縮レベル -1 ~ -22、--long でロングレンジモード、辞書学習にも対応
  • マルチスレッド対応 -T0、ストリーミング圧縮にも強い
  • btrfs / squashfs / Linux カーネル圧縮・Arch / Fedora パッケージ・MongoDB など採用例多数

概要

zstd (Zstandard) は 2016 年に Facebook の Yann Collet (LZ4 の作者) によって公開された汎用圧縮アルゴリズムとそのコマンドラインツールです。圧縮率は xz に迫り、速度は gzip 並か上回るという近代的な特性を持ち、登場以来急速に Linux エコシステムに浸透しました。

圧縮レベルは -1 から -22 まで指定可能で、デフォルトの -3 でも gzip より小さく速いという驚異的なバランスを示します。--long オプションを使えば長距離参照モードでさらに圧縮率を高め、--train で辞書学習にも対応します。

採用例は非常に広く、Arch Linux のパッケージ (.pkg.tar.zst)、Fedora RPM の標準圧縮、btrfs ファイルシステムの透過圧縮、Linux カーネルの zstd 圧縮、MongoDB の WiredTiger、Kafka の圧縮、AWS S3 や Cloudflare の HTTP Content-Encoding など枚挙にいとまがありません。

基本構文

zstd [オプション] ファイル...
unzstd [オプション] ファイル.zst...
zstdcat ファイル.zst

主要オプション

オプション意味
-1-22圧縮レベル (デフォルト -3、19 以上は --ultra 必要)
--ultraレベル 20~22 を有効化
--fast=n圧縮を犠牲にした超高速モード
--long[=n]ロングレンジモード (デフォルト 27、最大 31)
-T nn スレッドで並列圧縮 (-T0 で全コア)
-k元ファイルを残す
-d展開
-c標準出力
-t整合性テスト
--train辞書学習 (小さな類似ファイル群向け)
-D dict辞書ファイル指定

実用例

# 基本圧縮 (-3 default)
zstd huge.log
# → huge.log.zst

# 元ファイル保持 + レベル 19
zstd -19 -k backup.tar
# → backup.tar.zst

# 全コアで並列圧縮 (最強)
zstd -T0 -19 huge.dump

# 超高圧縮 (時間かかる)
zstd --ultra -22 -T0 archive.tar

# 超高速モード (バックアップ用)
zstd --fast=4 syslog

# tar.zst の作成 / 展開
tar --zstd -cvf src.tar.zst src/
tar --zstd -xvf src.tar.zst
# 略記 (新しい tar)
tar caf src.tar.zst src/
tar xf src.tar.zst

# パイプで使う
mysqldump db | zstd -19 -T0 > db.sql.zst
zstdcat db.sql.zst | mysql other_db

# 辞書学習 (1000 個の小さな類似 JSON を効率圧縮)
zstd --train json/*.json -o dict
zstd -D dict log.json

# 整合性チェック
zstd -t archive.zst

関連コマンドとの比較・組み合わせ

項目gzipbzip2xzzstd
圧縮速度 (デフォルト)とても遅とても速
展開速度普通非常に速い
圧縮率 (-3)最高gzip 同等以上
圧縮率 (-19)---xz に肉薄
並列圧縮pigz 別途pbzip2 別途標準対応標準対応
辞書学習×××

用途別の推奨: 速度最優先=lz4 / zstd --fast、バランス=zstd -3 (デフォルト)、圧縮率最優先=zstd -19 ~ -22 または xz -9e。

注意点・落とし穴

  • レベル 19 以上は --ultra が必要: 単に -22 と書いてもメモリ制限がかかり最高圧縮になりません。
  • 並列圧縮はファイル単位: 単一の小さいファイルでは並列化の恩恵が薄い。大きいファイルやストリームで真価を発揮。
  • 古いシステムで unzstd が無い: CentOS 7 など古い環境では zstd 自体が入っていないことがあるため、配布側は注意。
  • 辞書ファイルが必要: -D dict で圧縮したファイルは展開時にも辞書が必要。配布物に辞書を含め忘れない。

関連リンク

編集
Post Share
子ページ

子ページはありません

同階層のページ
  1. ls ファイル/ディレクトリ一覧表示
  2. sudo ユーザー指定
  3. cron/crontab ジョブの自動実行と登録方法
  4. wget http通信によるファイルダウンロード
  5. rm ファイル/ディレクトリ削除
  6. pwd カレントディレクトリの表示
  7. cd ディレクトリの移動
  8. ./configure
  9. make
  10. make install
  11. unzip ファイルの解凍
  12. mv ファイル/ディレクトリの移動および名称変更
  13. mkdir ディレクトリの作成
  14. touch 空ファイルの新規作成
  15. vi テキストディタの使用
  16. find ファイル/ディレクトリ検索
  17. grep 文字列の検索
  18. tail ファイルの末尾表示
  19. curl HTTP通信によるリクエスト
  20. nslookup ドメインのIP解決
  21. apt update パッケージリストの情報を更新
  22. apt upgrade パッケージの更新
  23. ln リンク/ショートカットの作成と削除
  24. rsync ファイル/ディレクトリの同期
  25. ssh リモートとの暗号化通信
  26. scp sshを利用したファイルのコピー
  27. unzip zip ファイルを解凍する
  28. cp ファイル/ディレクトリのコピー
  29. diffファイルの差分抽出
  30. fdisk ハードディスクに対する操作
  31. lsblk デバイスをツリー状で表示する
  32. kill プロセスを終了させる
  33. zip ファイルやディレクトリをzip形式に圧縮する
  34. hostコマンド
  35. chmod 権限の変更
  36. ip IPアドレスの確認
  37. chown コマンド(所有者の変更)
  38. chgrp ファイル/ディレクトリのグループ情報の変更
  39. nohupと'&' プログラムのバックグラウンド実行(ssh接続時)
  40. lsof 開いているポート番号の確認
  41. tar ファイルの圧縮と解凍
  42. file ファイルの種類を表示
  43. cat ファイルの中身を表示
  44. head ファイルの先頭部分を表示
  45. wc 行数/単語数/文字数を確認
  46. shutdown システムのシャットダウンと再起動
  47. ps プロセスの確認
  48. which コマンドの絶対パスを調べる
  49. yum RedHat系ディストリビューションの管理
  50. mount ファイルシステムのマウント
  51. 特定フォルダ以下の特定拡張子のファイルを再帰的に削除する方法
  52. 特定のフォルダとそのサブフォルダ内にある特定のファイル名のファイルを再帰的に削除
  53. sed テキスト処理用ストリームエディタ
  54. awk フィールド単位の柔軟なテキスト処理
  55. sort 行の並び替え
  56. uniq 重複行の除去・カウント
  57. cut 行から特定列を切り出し
  58. tr 文字の置換・削除
  59. less ページャでファイルを読む
  60. more 古典ページャ
  61. xargs 標準入力をコマンド引数に変換
  62. paste 複数ファイルを列方向に結合
  63. top プロセスの動的監視
  64. htop 強化版インタラクティブプロセス監視
  65. nice プロセスの優先度を指定して起動
  66. renice 実行中プロセスの優先度を変更
  67. jobs シェル管理下のジョブ一覧
  68. bg ジョブをバックグラウンドで実行
  69. fg バックグラウンドジョブをフォアグラウンドに
  70. killall プロセス名でまとめて終了
  71. pgrep プロセス名から PID を検索
  72. pkill プロセス名でシグナルを送信
  73. uname システム情報の表示
  74. uptime システム稼働時間とロードアベレージ
  75. free メモリ使用状況の表示
  76. df ディスク使用量 (ファイルシステム単位)
  77. du ディレクトリ・ファイル単位の使用量
  78. lscpu CPU 情報の表示
  79. lsmod 読み込み済みカーネルモジュール一覧
  80. lspci PCI デバイス一覧
  81. dmesg カーネルリングバッファの表示
  82. w ログイン中ユーザーと負荷の表示
  83. ping ホストへの到達性とラウンドトリップ確認
  84. traceroute ホストまでの経路を表示
  85. netstat ネットワーク接続・ルーティング表示 (旧式)
  86. ss netstat 後継、ソケット統計
  87. ifconfig ネットワークインターフェース表示・設定 (旧式)
  88. dig DNS リゾルバ問い合わせの定番
  89. route ルーティングテーブル表示 (旧式)
  90. iptables Linux パケットフィルタリング
  91. telnet TCP 接続診断・古典的リモートログイン
  92. arp ARP テーブルの表示・編集 (旧式)
  93. useradd ユーザーアカウントの作成
  94. usermod 既存ユーザーアカウントの変更
  95. userdel ユーザーアカウントの削除
  96. passwd パスワードの変更・管理
  97. groupadd グループの追加
  98. id ユーザーとグループの ID・所属を表示
  99. whoami 現在のユーザー名を表示
  100. su 別ユーザーに切り替え
  101. dnf Red Hat 系の次世代パッケージマネージャ (yum 後継)
  102. pacman Arch Linux のパッケージマネージャ
  103. echo 文字列・変数の出力
  104. export 環境変数の設定と継承
  105. alias コマンドの別名定義
  106. source / . スクリプトをカレントシェルで実行
  107. history コマンド履歴の表示・操作
  108. type コマンドの種別 (組み込み/関数/エイリアス/外部) を表示
  109. env 環境変数表示と一時設定でコマンド実行
  110. set シェルオプションと位置パラメータの操作
  111. unset 変数・関数の削除
  112. printf C 風書式付き出力
  113. systemctl systemd ユニットの管理
  114. service init.d 互換のサービス管理
  115. journalctl systemd ジャーナルログの参照
  116. crontab 定期実行ジョブの登録・編集
  117. at 指定時刻に 1 回だけコマンド実行
  118. umount ファイルシステムのアンマウント
  119. reboot システムを再起動
  120. halt システムを停止
  121. date 日付・時刻の表示と設定
  122. hostname ホスト名の表示・設定
  123. gzip ファイルを Deflate で圧縮
  124. gunzip gzip 圧縮ファイルの展開
  125. bzip2 高圧縮率の圧縮コマンド
  126. xz LZMA2 ベースの高圧縮コマンド
  127. zstd Facebook 製の高速圧縮コマンド
  128. dpkg Debian パッケージの低レベル操作
  129. rpm Red Hat パッケージの低レベル操作
  130. snap Canonical の sandbox パッケージマネージャ
  131. apt Debian/Ubuntu の高レベルパッケージマネージャ
  132. 7z 7-Zip コマンドラインツール

最近更新/作成されたページ