誤差の基礎 - 最小二乗法による境界復元

お断り:ここでは境界、筆界の誤差について考えています。
誤差の基礎
誤差とは
そこで
(真の値)−(測定値)=
測定値
から
誤差
で計算しますが真の値は分かりません、
平均値(最確値)を計算し
測定値-平均値=残差
を求めこ
の残差から標準偏差を計算し誤差の指標、バラツキの指標、精度の指標として使います。
標準偏差の他に平均二乗誤差というのがあります、これも誤差の指標、バラツキの指標、
精度の指標として使いますがこの違いについても考えて見ます。
(標準偏差、平均二乗偏差、平均二乗偏差について別に解説ありますので参照ください)
標準偏差
標準偏差はデータのバラツキを表す指標で、計算は次の式で表されます。
①測定値を使う変数が一つの一般的な式です、変数 Xi
として
残差⊿xi=(Xi-(Xav)
Xi は測定値、Xav は平均値
分散σx^2=∑(⊿xi ^2)/n
∑(i=1∼n)
標準偏差σ=
√σx^2
で計算しますがnをn-1 で計算するのが一般的です、理由
や証明は様々あるようですが「残差が観測値と真値の差でなく最確値と観測値の差であ
ることに起因し、nから減じている数 1 は推定した未知量の数に等しい」というのと「不
偏分散は母集団の分散にしとしい。 母集団の平均が不明で標本平均を代わりに使用す
る場合には、期待値が母集団分散となる不偏分散を使用する」と言われると難しくなっ
てしまいますが要するに真値でなく観測値を使うからと思っていいと思います。
②真値を使う式は次のようになります
変数が一つの一般的な式です、変数 Xi
として
残差⊿xi=Xi
Xi は真値と測定値の差
分散σx^2=∑(⊿xi ^2)/n
∑(i=1∼n)
標準偏差σ=
√σx^2
では具体的な例で計算して見ます
ある点に TS を設置して 2 点の夾角を 3 回測ったとします、結果は Xi=〇-〇-25、〇〇-30、〇-〇-11 とします、Xav=〇-〇-22 で残差⊿xi は 3 秒、8 秒、-11 秒で残差の
二乗の合計∑(⊿xi ^2)は 194 秒です。
①式
分散σx^2=194/3-1=97、標準偏差σ=9.8 秒です。
では仮にこの夾角は〇-〇-5 が真の値だとしたどうなるか
残差⊿xi は 20 秒、25 秒、6 秒で残差の二乗の合計∑(⊿xi ^2)は 1061 秒です。
②式
分散σx^2=1061/3=353.7、標準偏差σ2=18.8 秒です。
①式のσx^2=194/3-1=97 をn-1 でなくnで割ると分散σx^2=194/3=64.7、標準偏
差σ1=8.04 秒です。
この二つの関係は
平均値と真値の差は〇-〇-22
秒、σ2=18.8 秒
で
−
√(17^2+8.04^2)=18.8 秒
ます、これはσ2^2=Δx^2+σ1^2
〇-〇-5=17 秒です、
σ1=8.04
で
σ2=18.8 秒と同じになり
(Δx は平均値と真値の差)となります。
突然ですが平均二乗誤差の式は
差⊿xi=(Xi-(Xv)
Xi は測定値、Xv は真値と仮定した値
分散σx^2=∑(⊿xi ^2)/n
∑(i=1∼n)
平均二乗誤差σrms=
rms をつけて標準偏差と区別
√σx^2
この式で②を計算すると平均二乗誤差σrms=18.8 秒で②と同じになります、なんとな
く標準偏差と平均二乗誤差の関係が分かってきませんか。
正規分布について
熟練者が一定の条件で行った作業の結果は正規分布に従います、このことを前提に標準
偏差、正規分布、確率などを理解しデータ解析に使用することが重要です。
標準偏差は計算で求まりますが重要なのはそのデータが正規分布に従っているかどう
かです、これを確認するには累積相対度数を 正規確率紙と呼ばれるグラフ用紙に描き,
それが直線になれば正規分布であることで確認できます。
また、度数分布表を作成することによりその曲線が正規分布曲線に近づけば正規分布で
あることが分かります。
あまり統計的解析に走ると実務には向かなくなりますので度数分布表を見て確認する
程度で正規確率紙で確認することはしません。
正規確率紙
正規分布(一次元・変数が X だけのとき)
0
0.5σ
1.0σ
1.5σ
2 .0σ
2.5σ
3 .0σ
0.15/100
相対度数
0.5/100
2/100
5/100
9/100
15/100
19/100
19/100
15/100
9/100
5/100
2/100
0.5/100
0.15/100
正規分布(一次元)のヒストグラム
(グラフ)を見てください、縦軸に
標準偏差σを 0.5 単位にとって右軸
にその度数(データの数)を相対(パ
ーセント)で表し、曲線を作ったの
が正規分布曲線というものです。
通常は 1σ単位でヒストグラムにす
るのが普通ですがここではあえて
0.5σ単位にしてあります。
計算式は
残差⊿xi=(Xi-(Xav)
Xi は測定値、Xav は平均値
分散σx^2=∑(⊿xi ^2)/(n-1)
∑(i=1∼n)
標準偏差σ=
√σx^2
で変わりません。
イメージ曲線(二次元、変数が XY のとき)
座標値の場合xyの二変数を扱いま
X
すのでxならxの標準偏差、yなら
yの標準偏差を別々に計算し、二次
元 の 標 準 偏 差 σ は √ ( σX^2/2 +
0
Y
σY^2/2)で計算します。
(実際には xy の二次分布は円にはな
らず楕円になります、座標の二次元
ΔXの実際にイメージできる分布
ΔYの実際にイメージできる分布
分布は楕円の長軸の方向角と長軸の
標準偏差σm と短軸のσn、x軸の平
均、Y 軸の平均の 5 要素で表されます)
念のため計算式(Ⅹ軸)
残差⊿xi=(Xi-(Xav)
Xi は測定値、Xav は平均値
分散σx^2=∑(⊿xi ^2)/(n-1)
∑(i=1∼n)
標準偏差σx=
√σx^2
計算式(Y 軸)
残差⊿yi=(Yi-(Yav)
Yi は測定値、Yav は平均値
分散σy^2=∑(⊿yi ^2)/(n-1)
∑(i=1∼n)
標準偏差σy=
√σy^2
全体の標準偏差は
σ=√(σX^2/2+σY^2/2)
③
同一点を複数回測量した時の標準偏差を計算して見ます。
Xi
Yi
1回目
100.25
200.25
2回目
100.30
200.30
3回目
100.11
200.11
平均
100.22
200.22
残差1回目
0.03
0.03
残差2回目
0.08
0.08
残差3回目
―0.011
―0.11
残差二乗合計
0.0194
0.0194
標準偏差
0.0985
0.0985
σx=0.0985、σy=0.0985 で
全体の標準偏差はσ=√(σX^2/2+σY^2/2)
=√(0.0985^2/2+0.0985^2/2)
=
0.0985
これは分布が楕円でなく円の場合
σ=σx=σy
の関係になります。
イメージ曲線(二次元・XY のとき)
X
3σの外側に 1/100 ある
3σ 13/100
1σ 39/100
2σ 47/100
Y
立体的なイメージは一次元と同じですが各標準偏
差での確率が違う。
x軸と y 軸の交点を中心に山型の分布になります、左の絵がそのイメージです。
右は絵を真上から見たときのイメージで円の中にある割合を示しています。
分布の中心は最小二乗法による座標変換ではx=0、y=0 ですが変換しない値など
では 0 ではありません。
二次元分布の平面的イメージ
0
0.5σ
1.0σ
1.5σ
2.0σ
2.5σ
3.0σ
相対度数
17/100
22/100
29/100
18/100
10/100
3/100
1/100
容積のイメージをあえて平面で表すとこ
うなる。
二次元の平面的イメージを見て一次元の
正規分布と比べるとその差が分かりま
す、ただし山型の形のイメージは同じで
すが平面で表すと違いがわかります。
一次元と二次元の確率の違い
標準偏差
一次元 確率
二次元 確率
0.5σ
38
17
1σ
68
38
1.5
86
68
2
95.5
86
2.5
98.8
96
3
99.7
99
3以上
100
100
(二次元=座標値)
座標値の場合(相対的位置誤差の計算)
ここまであげた例①②③は標準偏差を説明する計算例として同じ所を数回測った結果
からという例です、これで説明すると同じ点を何度も測ることになり現実的ではありま
せん、実際に知りたいのは点全体の図面値に対する実測値を基準した標準偏差です。
計算式は残差⊿xi=(Xi-(Xav)、Xi は測定値、Xav は平均値
分散σx^2=∑(⊿xi ^2)/(n-1)
標準偏差σ=
√σx^2
∑(i=1∼n)
です。
そこで変数 Xi を(図面値)-(実測値)
として計算します。
座標変換したデータは(実測値)−(変換した図面値)、検査するデータは(成果値)(検査値)
、平均二乗誤差では(実測値)−(真値と仮定した値)として計算します。
④
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
任意座標対世界測地系座標で求めてみます
任意(図面値)
Xa
Ya
21.791
62.195
19.991
61.454
-0.112
53.897
0.363
46.075
0.011
32.141
9.248
33.414
0.531
20.909
0.000
0.000
30.938
15.461
25.119
27.378
44.409
23.801
52.002
31.066
53.515
32.186
61.534
41.973
71.863
58.785
71.993
59.502
78.525
72.880
79.506
74.221
73.433
81.237
65.665
93.949
65.361
95.350
67.084
87.362
88.622
Z1
Z2
Z3
Z4
Z5
Z6
Z7
Z8
Z11
Z12
Z13
Z14
Z15
Z16
Z17
Z18
Z19
Z20
Z21
Z22
Z23
94.148 Z24
92.238 Z25
92.110 Z26
世界(実測値)
Xb
Yb
25518.506
-63849.841
25516.696
-63850.505
25496.559
-63857.900
25497.053
-63865.394
25496.587
-63879.895
25506.030
-63878.682
25497.113
-63891.250
25496.513
-63911.932
25527.569
-63896.511
25521.826
-63884.717
25541.417
-63888.143
25548.528
-63881.242
25550.507
-63879.800
25558.461
-63869.798
25568.595
-63853.181
25568.637
-63852.593
25575.211
-63839.141
25576.086
-63837.853
25570.100
-63830.896
25562.223
-63818.189
25561.865
-63816.777
25563.542
-63817.855
25583.461
-63819.747
25584.844
-63819.878
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
平均
変数
Xi(Xa−Xb)
Yi(Ya−Yb)
-25496.715
63912.036
-25496.705
63911.959
-25496.671
63911.797
-25496.690
63911.469
-25496.576
63912.036
-25496.782
63912.096
-25496.582
63912.159
-25496.513
63911.932
-25496.631
63911.972
-25496.707
63912.095
-25497.008
63911.944
-25496.526
63912.308
-25496.992
63911.986
-25496.927
63911.771
-25496.732
63911.966
-25496.644
63912.095
-25496.686
63912.021
-25496.580
63912.074
-25496.667
63912.133
-25496.558
63912.138
-25496.504
63912.127
-25496.458
63912.003
-25496.099
63911.985
-25496.222
63911.988
-25496.632
63912.004
まず、最初に変数を(図面値)-(実測値)で計算します、平均も計算しておきます。
最小二乗法で座標変換した座標値の場合平均 Xav は及び平均 Yav は 0 になります、この
ため Xav を求めず Xi の二乗をいきなり求める式もあります、計算結果に間違いはない
のですがこの方法を最小二乗法で座標変換した座標値以外の計算にも知らないで使う
方がでてきますの使うべきではないと考えます。
次に X とYの標準偏差を計算します。
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Xvr
Xの標準偏差
Xi(Xa−Xb)
(Xi−Xvr)^2
-25496.715
0.007
-25496.705
0.005
-25496.671
0.001
-25496.690
0.003
-25496.576
0.003
-25496.782
0.022
-25496.582
0.003
-25496.513
0.014
-25496.631
0.000
-25496.707
0.006
-25497.008
0.141
-25496.526
0.011
-25496.992
0.129
-25496.927
0.087
-25496.732
0.010
-25496.644
0.000
-25496.686
0.003
-25496.580
0.003
-25496.667
0.001
-25496.558
0.006
-25496.504
0.016
-25496.458
0.030
-25496.099
0.284
-25496.222
0.168
-25496.632
合計
0.955
σx
0.2038
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Yvr
Yの標準偏差
Yi(Ya−Yb)
(Yi−Yvr)^2
63912.036
0.001
63911.959
0.002
63911.797
0.043
63911.469
0.286
63912.036
0.001
63912.096
0.009
63912.159
0.024
63911.932
0.005
63911.972
0.001
63912.095
0.008
63911.944
0.004
63912.308
0.093
63911.986
0.000
63911.771
0.054
63911.966
0.001
63912.095
0.008
63912.021
0.000
63912.074
0.005
63912.133
0.017
63912.138
0.018
63912.127
0.015
63912.003
0.000
63911.985
0.000
63911.988
0.000
63912.004
合計
0.596
σy
0.1610
Xi-Xvr を求め、二乗し、n-1 で割ってその平方根が標準偏差σx、σy です。
全体の標準偏差はσ=√(σx^2/2+σy^2/2)
=√(0.2038^2/2+0.1610^2/2)
=
0.1837
⑤
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
同じデータを日本測地系対世界測地系座標で求めてみます
任意(図面値)
Xa
Ya
25518.375 -63849.669
25516.575 -63850.410
25496.473 -63857.966
25496.948 -63865.788
25496.596 -63879.721
25505.833 -63878.448
25497.116 -63890.953
25496.585 -63911.861
25527.522 -63896.401
25521.703 -63884.484
25540.992 -63888.061
25548.585 -63880.796
25550.098 -63879.676
25558.116 -63869.890
25568.445 -63853.079
25568.575 -63852.362
25575.106 -63838.984
25576.087 -63837.643
25570.015 -63830.628
25562.247 -63817.916
25561.943 -63816.515
25563.666 -63817.717
25583.943 -63819.627
25585.203 -63819.755
Z1
Z2
Z3
Z4
Z5
Z6
Z7
Z8
Z11
Z12
Z13
Z14
Z15
Z16
Z17
Z18
Z19
Z20
Z21
Z22
Z23
Z24
Z25
Z26
世界(実測値)
Xb
Yb
25518.506
-63849.841
25516.696
-63850.505
25496.559
-63857.900
25497.053
-63865.394
25496.587
-63879.895
25506.030
-63878.682
25497.113
-63891.250
25496.513
-63911.932
25527.569
-63896.511
25521.826
-63884.717
25541.417
-63888.143
25548.528
-63881.242
25550.507
-63879.800
25558.461
-63869.798
25568.595
-63853.181
25568.637
-63852.593
25575.211
-63839.141
25576.086
-63837.853
25570.100
-63830.896
25562.223
-63818.189
25561.865
-63816.777
25563.542
-63817.855
25583.461
-63819.747
25584.844
-63819.878
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
平均
変数
Xi(Xa−Xb) Yi(Ya−Yb)
-0.131
0.172
-0.121
0.095
-0.086
-0.066
-0.105
-0.394
0.009
0.174
-0.197
0.234
0.003
0.297
0.072
0.071
-0.047
0.110
-0.123
0.233
-0.425
0.082
0.057
0.446
-0.409
0.124
-0.345
-0.092
-0.150
0.102
-0.062
0.231
-0.105
0.157
0.001
0.210
-0.085
0.268
0.024
0.273
0.078
0.262
0.124
0.138
0.482
0.120
0.359
0.123
-0.049
0.140
次に X とYの標準偏差を計算します。
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Xvr
Xの標準偏差
Xi(Xa−Xb)
(Xi−Xvr)^2
-0.131
0.007
-0.121
0.005
-0.086
0.001
-0.105
0.003
0.009
0.003
-0.197
0.022
0.003
0.003
0.072
0.015
-0.047
0.000
-0.123
0.005
-0.425
0.141
0.057
0.011
-0.409
0.129
-0.345
0.087
-0.150
0.010
-0.062
0.000
-0.105
0.003
0.001
0.003
-0.085
0.001
0.024
0.005
0.078
0.016
0.124
0.030
0.482
0.282
0.359
0.167
-0.049
合計
0.951
σx
0.2034
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Yvr
Yの標準偏差
Yi(Ya−Yb)
(Yi−Yvr)^2
0.172
0.001
0.095
0.002
-0.066
0.043
-0.394
0.286
0.174
0.001
0.234
0.009
0.297
0.025
0.071
0.005
0.110
0.001
0.233
0.009
0.082
0.003
0.446
0.093
0.124
0.000
-0.092
0.054
0.102
0.001
0.231
0.008
0.157
0.000
0.210
0.005
0.268
0.016
0.273
0.018
0.262
0.015
0.138
0.000
0.120
0.000
0.123
0.000
0.140
合計
0.595
σy
0.1609
計算は④と同じ式です。
全体の標準偏差はσ=√(σx^2/2+σy^2/2)
=√(0.2034^2/2+0.1609^2/2)
は縮尺係数の関係です)
=
0.1834(任意は 0.1837 で一致しませんがこれ
ここで何を説明したいかというと「実測データを基に幾とおりかの方法で計算したとき、
例えば任意座標で計算した座標値、日本測地系計算した座標値、世界測地系で計算した
座標値
とあったとすれば成果対任意座標で計算した座標値、成果対日本測地系計算し
た座標値、 成果対世界測地系で計算した座標値で標準偏差は変わらないし、変わって
はならない、なぜなら元のデータは同じだからなのです。
⑥
又突然ですが平均二乗誤差を計算してみます、任意対世界測地系では違和感があり
ますので⑤の日本測地系対世界測地系のデータで計算してみます。
変数は⑤の表と同じです、なぜなら元データが同じだからでこれは標準偏差も平均二乗
誤差も同じなのです。
平均二乗誤差では変数 Xi は Xa(実測値)−Xb(真値と仮定した値)
・・・図面値を実
測値、実測値を真値と仮定します。
計算式は残差⊿xi=Xi
標準偏差は Xav があるが平均二乗誤差にはない
分散σx^2=∑(⊿xi ^2)/n
∑(i=1∼n)
X 軸の平均二乗偏差・平均二乗誤差σxmrs=
標準偏差はn-1
√σx^2
XY 軸の平均二乗偏差σmr=√(σxmrs^2/2+σymrs^2/2) です。
XY 軸の平均二乗誤差σmrs=√(σxmrs^2+σymrs^2) です。
と平均二乗偏差と平均二乗誤差が二次元では変わります(標準偏差・平均二乗偏差・平
均二乗誤差のファイルを参照してください)
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Xvr
Xの平均二乗偏差
Xi(Xa−Xb)
Xi^2
-0.131
0.017
-0.121
0.015
-0.086
0.007
-0.105
0.011
0.009
0.000
-0.197
0.039
0.003
0.000
0.072
0.005
-0.047
0.002
-0.123
0.015
-0.425
0.181
0.057
0.003
-0.409
0.167
-0.345
0.119
-0.150
0.023
-0.062
0.004
-0.105
0.011
0.001
0.000
-0.085
0.007
0.024
0.001
0.078
0.006
0.124
0.015
0.482
0.232
0.359
0.129
-0.049
合計
1.010
σxmrs
0.2051 n
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Yvr
Yの平均二乗偏差
Yi(Ya−Yb)
Yi^2
0.172
0.030
0.095
0.009
-0.066
0.004
-0.394
0.155
0.174
0.030
0.234
0.055
0.297
0.088
0.071
0.005
0.110
0.012
0.233
0.054
0.082
0.007
0.446
0.199
0.124
0.015
-0.092
0.008
0.102
0.010
0.231
0.053
0.157
0.025
0.210
0.044
0.268
0.072
0.273
0.075
0.262
0.069
0.138
0.019
0.120
0.014
0.123
0.015
0.140
合計
1.068
σymrs
0.2110 n
σmrs
0.2081
これをみて、Xi が標準偏差では(図面値)-(実測値)で平均二乗偏差では(実測値)
−(真値と仮定した値)で違うではないかと思われる方がいるでしょう、⑤の標準偏差
の計算式から平均二乗偏差を計算してみて⑥と一致することを確認してみます、そのこ
とで原式は同じだということを理解できると思います。
⑥
標準偏差からの確認
⑤の計算式を再度表示します
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Xvr
Xの標準偏差
Xi(Xa−Xb)
(Xi−Xvr)^2
-0.131
0.007
-0.121
0.005
-0.086
0.001
-0.105
0.003
0.009
0.003
-0.197
0.022
0.003
0.003
0.072
0.015
-0.047
0.000
-0.123
0.005
-0.425
0.141
0.057
0.011
-0.409
0.129
-0.345
0.087
-0.150
0.010
-0.062
0.000
-0.105
0.003
0.001
0.003
-0.085
0.001
0.024
0.005
0.078
0.016
0.124
0.030
0.482
0.282
0.359
0.167
-0.049
合計
0.951
σx
0.2034 n-1
σx'
0.1991 n
Xvr^2+σx'^2
1
2
3
4
5
6
7
8
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
Yvr
0.2051
Yの標準偏差
Yi(Ya−Yb)
(Yi−Yvr)^2
0.172
0.001
0.095
0.002
-0.066
0.043
-0.394
0.286
0.174
0.001
0.234
0.009
0.297
0.025
0.071
0.005
0.110
0.001
0.233
0.009
0.082
0.003
0.446
0.093
0.124
0.000
-0.092
0.054
0.102
0.001
0.231
0.008
0.157
0.000
0.210
0.005
0.268
0.016
0.273
0.018
0.262
0.015
0.138
0.000
0.120
0.000
0.123
0.000
0.140
合計
0.595
σy
0.1609 n-1
σy'
0.1575 n
Yvr^2+σy'^2
σmrs
0.2110
0.2081
②の計算の解説でσ2^2=Δx^2+σ1^2 (Δx は平均値と真値の差)を説明しました、
まず n-1 でなくnで割った標準偏差σx
σx
を計算します、これからσxrms=√(Xvr^2+
^2)=√(0.049^2+0.1991^2)=0.2051
です、これは⑤の平均二乗偏差 0.2051 と
同じです。
σyrms=√(Yvr^2+σy
^2)=√(0.140^2+0.1575^2)=0.2110
です、これは⑤の平
均二乗偏差 0.2110 と同じです。
σmr=√(σxmrs^2/2+σymrs^2/2) で、0.2081 です。
平均二乗偏差で計算した数値と標準偏差から計算した数値と同じということを理解で
きたと思います。
別の意味で言えば、今説明した計算の関係が証明できない標準偏差、平均二乗偏差の式
を使っていれば間違いだという事です。
分布図での確認
⑤
のデータを使って二次元の標準偏差を見てみます。
-0.140
楕円の方向角25度
0.8
0.6
0.4
0.2
0.049
0
-1
-0.5
-0.2
0
0.5
-0.4
-0.6
-0.8
紫の円が誤差楕円で長軸(25 度軸)の 3σm(σm=0.206)
、短軸(115 度軸)の 3σn
(σn=0.157)、分布の中心x=0.049、y=-0.140、楕円の方向角 25 度です。
このように 5 つの要素で表しますが実際は長軸、短軸、楕円の方向角の計算が面倒なの
で青の円の 3σ(σ=0.183)で表します。
確率で見れば楕円の中に 99%の点があるわけですが上図では赤丸の一点が楕円からは
み出している、これは分布上異常な点が存在していることを意味しているこのことにつ
いては「準拠点に選択」で説明する。
実際には偶然誤差の三公理
1.絶対値の等しい正の誤差と負の誤差との起こる度数は相等しい。
2.絶対値の小さな誤差の方が大きい誤差より現れる度数が多い。
3.ある程度以上の大きな誤差は実際上起こらない
からいけば誤差楕円は円に近づく、分布の中心は 0,0 に近づく。
なお、最小二乗法による座標変換(ヘルマート変換、アフィン変換)の場合分布の中
心は 0,0 になります。
ではこれに平均二乗偏差の円を追加して標準偏差との関係を見ます、説明が大変なので
誤差楕円をのぞいて円で説明します。
-0.140
平均二乗誤差(平均二乗偏差×√2
0
1
標準偏差
0.8
平均二乗偏差
0.6
0.4
0.2
0
0
-1
-0.5
-0.2
0
0.5
0.049
1
-0.4
-0.6
-0.8
-1
標準偏差σ=0.183、平均二乗偏差σmr=0.208(平均二乗誤差は 0.208×√2=0.294)
これを見れば平均二乗偏差は分布の指標ではないということが分かります、しかし先の
偶然誤差の三公理からいけば標準偏差と平均二乗偏差は一致するはずであるが実際は
一致しない・・・だからおもしろい。
が!一致しないが限りなく近づけば・・・土地家屋調査士が扱うレベルなら楕円でなく
円として考えれば充分と思います。
今までの説明を表にしたものが標準偏差・平均二乗偏差・平均二乗誤差のファイルにあ
りますので参照してください。
ともあれ標準偏差が一般的に使われている現状では標準偏差、正規分布、確率を理解す
ることが必要と考えます。
(楕円の確認は変換をしないデータではプログラム henkan2.00、muhen にデータを入力
して誤差楕円をクリックすると daen で確認できます、変換をしたデータでは daen と
jyun の両方で確認できます、jyun では楕円の傾きも確認できます)
2007‐10-04 修正(平均二乗偏差と平均二乗誤差を使い分けました)