ver 1.5 1991.5.6.
revised 2000.4.21.

最小二乗法の話 その2

―― もっとも、もっともらしい直線 ――

2.正規方程式

S(a0, a1 ) を最小にするには次式が成立すればよい。

LSMEQ041

LSMEQ042   (4)

つまり次の連立方程式が成り立てばよいわけです。

LSMEQ051

LSMEQ052   (5)

この方程式を正規方程式(normal equation)といいます。(5)式で si = s0 = 一定とし、もっと簡単にすると

LSMEQ061

LSMEQ062   (6)

これを解いて得られる a1 についての答は記憶しやすい格好をしています。

LSMEQ07   (7)

ここで sxy は共分散と呼ばれる量 E(xy) - E(x)E(y) に当たります(E は期待値を表わす)。また a0

LSMEQ08   (8)

となります。なお sxy を無次元化した

LSMEQ09   (9)

を相関係数と呼び、x と y の間の関係の有無を論じるのによく用いられます。特に y が x の1次の関数で記述でき偏差が 0 なら、r は±1どちらかの値をとります。


☆下のようなデータについて、最小2乗法を用いた1次式へのあてはめを試みよ。

x12345678
y0.4250.6760.9561.2241.4741.7121.9632.216


目次に帰る