この記事の要点
AI を「使う」だけならそこまで深い数学は不要。仕組みを理解 / 論文を読む / 独自モデルを作る段階で必要 押さえる 5 領域: 線形代数 / 微積分 / 確率・統計 / 情報理論 / 最適化 用途: 線形代数→Embedding・行列積、微積分→勾配・誤差逆伝播、確率→最尤推定、情報理論→交差エントロピー / KL、最適化→勾配降下法 厳密な証明より「勾配が何を意味するか」「分布が何を表すか」を直感で掴むのを優先 NumPy / PyTorch で動かしながら学ぶのが定着しやすい

本稿は AI / 機械学習を理解するために必要な数学のハブページです。エンジニアが IT として AI を理解・運用する範囲に絞って、押さえるべき数学領域を俯瞰します。研究者を目指す厳密証明の世界ではなく、「なぜそう動くのか」を直感と式の両方で掴むためのガイドです。

子ページから個別領域を選択してください。

本ページの子ページ

• 線形代数 — ベクトル・行列・行列積・固有値・SVD
• 微積分 — 偏微分・連鎖律・勾配降下法・自動微分
• 確率統計 — 分布・期待値・ベイズ・最尤推定
• 情報理論 — エントロピー・交差エントロピー・KL ダイバージェンス
• 最適化 — 勾配降下法・Adam・凸最適化・制約付き最適化

なぜ数学が必要か

AI モデルは、内部的にはすべて数値計算です。学習とは「予測誤差を表す関数 (損失関数) を最小化する」という最適化問題で、そこでは線形代数（行列・ベクトル）、微積分（勾配）、確率統計（分布・サンプリング）が必然的に登場します。これらが分かると、論文・ライブラリのドキュメントが読めるようになり、「なぜ学習が収束しないのか」「なぜ過学習が起きるのか」を自分で診断できるようになります。

領域ごとの「これだけは押さえる」

1. 線形代数

項目	AI でどう使うか
ベクトル / 内積 / ノルム	埋め込み (Embedding) と類似度計算 (コサイン類似度)
行列・行列積	ニューラルネットの 1 層は実質「行列積 + 活性化関数」
転置・逆行列	線形回帰の正規方程式、PCA の共分散行列
固有値 / 固有ベクトル	PCA、スペクトルクラスタリング、注意機構の解釈
特異値分解 (SVD)	次元削減、LoRA (低ランク適応) の理論的背景
テンソル	多次元配列 = PyTorch / TensorFlow の基本データ

2. 微積分

項目	AI でどう使うか
微分・偏微分	損失関数を重みで微分 → 重み更新方向
勾配 (∇)	最急降下 / 勾配降下法の本体
連鎖律 (Chain Rule)	誤差逆伝播 (Backpropagation) の理論的核
ヤコビ行列 / ヘッセ行列	多変量の勾配・二階情報。Newton 法など
テイラー展開	関数の局所近似。最適化アルゴリズムの解析

3. 確率・統計

項目	AI でどう使うか
確率分布 (正規・ベルヌーイ・カテゴリカル)	分類モデルの出力解釈、生成モデルの基礎
期待値・分散	損失の期待値最小化 (経験誤差)、バイアス-バリアンス
条件付き確率・ベイズの定理	ナイーブベイズ、生成モデル、ベイズ推論
最尤推定 (MLE)	多くの損失関数 (交差エントロピー等) の出所
サンプリング	モンテカルロ法、Diffusion Model のノイズサンプリング
仮説検定 / 信頼区間	A/B テスト、モデル比較の有意性
正規化 / 標準化	入力スケーリング、Batch / Layer Normalization

4. 情報理論

項目	AI でどう使うか
エントロピー	分布の「不確かさ」の指標。多くの損失の根
交差エントロピー	分類モデルの定番損失関数
KL ダイバージェンス	分布間の距離。VAE、強化学習、知識蒸留
相互情報量	特徴選択、表現学習
パープレキシティ	LLM の品質評価指標

5. 最適化

項目	AI でどう使うか
勾配降下法 (GD)	もっとも基本の最適化
確率的勾配降下 (SGD)	ミニバッチで近似勾配。大規模学習の標準
モーメンタム / Adam / AdamW	実用最適化アルゴリズムの定番
学習率スケジューリング	warmup、cosine annealing 等
正則化 (L1 / L2 / Dropout)	過学習の抑制
局所解 / 鞍点	深層学習の収束特性の理解
凸最適化の基礎	ロジスティック回帰・SVM 等の理論

学習段階のおすすめ順序

1. 線形代数の基礎（ベクトル・行列・行列積・内積）
2. 微積分の基礎（微分・偏微分・連鎖律）
3. 確率・統計の基礎（分布・期待値・最尤推定）
4. 勾配降下法を実装してみる（NumPy だけで線形回帰）
5. 交差エントロピー / KL（情報理論の最低限）
6. 必要に応じて固有値分解 / SVD やベイズ統計を補強

本サイトに既にある関連記事

本サイト内では、AI に直結する数学を独立記事として網羅はしていませんが、関連項目として以下が参照できます。

• NumPy — 数学を「動かして理解」する Python 数値計算の土台
• Matplotlib — 関数や分布を可視化するライブラリ
• パフォーマンスチューニング — 数値計算と切り離せない (参考)

本サイト外の学習リソース指針

本サイトのスコープは IT 学習なので、数学そのものの教科書的解説は深追いしません。各領域は次のような外部リソースの探し方の軸で進めるのが効率的です。

• 線形代数: 「機械学習のための」と冠した入門書、Gilbert Strang の MIT OCW
• 微積分: 高校の数学 III から微分・偏微分を復習 → 多変数
• 確率統計: 「統計検定 2 級レベル」+ 機械学習向け確率本
• 情報理論: Cover & Thomas の入門章 (エントロピー、KL)
• 最適化: 機械学習本の最適化章 (Bishop / 須山本 等)

注意点

• AI を使うだけなら数学はそこまで深く要らない。仕組みを理解したい / 論文を読む / 独自モデルを作る段階で必要になる
• 厳密な証明を追うよりも、「勾配が何を意味しているか」「分布が何を表しているか」を直感で掴むことを優先
• NumPy / PyTorch で動かしながら学ぶと定着しやすい
• 数学だけ先に積みすぎず、実装と並行が現実的
• 必要十分の範囲を超えた高度な数学 (関数解析・測度論等) は、IT 利用者には通常不要

関連

• 親カテゴリ: AI 人工知能
• 関連: 機械学習 / ディープラーニング / NumPy / Matplotlib