AI・機械学習の数学Wiki|損失関数・勾配降下法・シグモイド

編集

AI・機械学習を理解するために必要な数学 を学ぶためのWikiです。

いま扱っているのは、機械学習の式を読むときに引っかかりやすい基礎です。素因数分解・平方根といった計算の土台から、指数関数・対数関数・ネイピア数・シグモイド関数、そして損失関数・勾配降下法・残差平方和まで、プログラマーやシステムエンジニアでも追いやすい形でまとめています。線形代数や確率・統計はまだ扱っていません。

このWikiにある記事

現在まとまっているのは、機械学習の式を読むときに引っかかりやすい 13 項目です。分野ごとに並べています。

基礎の計算

項目ひとことで言うと
素因数分解自然数を素数の掛け算で表現することです。
平方根二乗したらaになる値をaの平方根という。
累乗根まず平方根の√aはaの2乗根と言い換えることが出来る。

関数

項目ひとことで言うと
三角関数三角関数とは直角三角形の各辺の関係を定義した関数です。
└ sin(サイン)関数公式 sinθ = b/c ※鋭角がθ。
└ cos(コサイン)関数公式 cosθ = a/c ※鋭角がθ。
└ tan(タンジェント)関数公式 tanθ = b/a ※鋭角がθ。
指数関数/対数関数数式を指数関数という。
ネイピア数(自然対数の底)ネイピア数とは自然対数の底とも言われており定数の一種。
シグモイド関数シグモイド関数のグラフ グラフで見た方がイメージが付きやすいのでまずは以下のグラフを参照してください。

機械学習で出てくるもの

項目ひとことで言うと
損失関数損失関数とは機械学習モデルが予測した値を実際の値との差がどの程度開いているかを示す関数。
勾配降下法勾配降下法(読み方: こうばいこうかほう)とは、損失関数の値(求めた予測値と実際の値との差)が最小になるように機械学習モデルに学習をさせる方法のこと。
残差平方和残差平方和とは予測値と実際の値の差をそれぞれ二乗して合計する手法。

読む順のおすすめ

機械学習の式でつまずく箇所は、だいたい決まっています。損失関数で「何を最小化したいのか」を掴み、残差平方和でその具体例を見て、勾配降下法で「どうやって最小にするか」に進むと、3 つが一本につながります。その手前で指数・対数が怪しい場合は 指数関数/対数関数 と ネイピア数 に戻ってください。シグモイド関数 はネイピア数がそのまま出てくるので、順番に読むと式が読めるようになります。

編集
Post Share
子ページ
  1. 素因数分解
  2. 平方根
  3. 累乗根
  4. 三角関数
  5. 指数関数/対数関数
  6. ネイピア数(自然対数の底)
  7. シグモイド関数
  8. 損失関数
  9. 勾配降下法
  10. 残差平方和