【最重要】 Cost Function

Courseraオンライン講座の機械学習コースを 直感的な理解を優先して、ゆるーく 解説しています。 正確には公式サイトを参照して下さい。 [MachineLearning Week1](https://www.coursera.org/learn/machine-learning/home/week/1) ここで学ぶことは 非常に重要で、 機械学習の**最重要項目**の一つです。 目的関数(cost function 費用関数, 英: objective function) は、 学習項目の誤差が最小になるように、 パラメータで調整した関数です。 例えばこんな感じで表されます。 詳しくは後で説明します。

$$ J(\theta_0, \theta_1) = \frac{1}{2m}\sum^{m}_{i=1}(h_\theta(x^{(i)})-y^{(i)})^2 $$

一見難しく見える人も、全然心配いりません。 全く記憶する必用はないし、 後々意味が分かってくるし、 後で練習するように Octaveを使えば、 数行で実装できてしまいますので。 ### 使用する記号をまとめておきます。 - $m$ = number of training examples 学習用サンプルデータの総数 - $x's$ = input variable / feature 各学習データの評価項目 - $h_{\theta}(x)$ = hypothsis 仮説。 $\theta$ によってパラメータ化された $x$ に対する 関数。 - $\theta$ (e.g. $\theta_0$ $\theta_1$) = フィットパラメータ - $y's$ = お手本 - $(x,y)$ = one training example - $(x^{(i)},y^{(i)})$ = i番目のサンプル ### 教師あり学習を数学的に言うと、 与えられた学習サンプル$(x, y)$に対して、 仮説$h_\theta(x)$が 与えられたお手本 $y$にできるだけ近づくように、 $\theta_0$, $\theta_1$ を求めること、 ということになります。 この仮説$h_\theta(x)$があれば、 与えられた値に対する予測が出来るようになるわけです。 直線の場合の仮説は以下のように、一次方程式で表されます。 $$ h_{\theta}(x) = \theta_0 + \theta_1 x$$