Να διατυπώσετε το θεώρημα Gauss Markov, ποιες υποθέσεις

Να διατυπώσετε το θεώρημα Gauss Markov, ποιες υποθέσεις θεωρούμε και να
περιγράψετε τη μέθοδο ελαχίστων τετραγώνων
Θεώρημα Gauss-Markov. Οι εκτιμητές της μεθόδου ελαχίστων τετραγώνων εφόσον
ισχύουν οι κάτωθι υποθέσεις είναι γραμμικοί, αμερόληπτοι και άριστοι (BLUE).
Οι υποθέσεις έχουν ως εξής
(1) E ()  0,
(2) E( ') 2 I ,
(3) E( X ' )  0,
(4) X ' X  0 και ισχύει η
κανονικότητα των τυχαίων σφαλμάτων
Περιγραφή Μεθόδου,
Η αλγεβρική μορφή του υποδείγματος είναι
Y  X B
Όπου Υ =….. (δίνουμε αναλυτικά τις μήτρες)
Η εκτιμηθείσα μορφή είναι Yˆ  X  Bˆ και ο στόχος είναι να ελαχιστοποίσουμε την
ποσότητα ˆ ' ˆ όπου ˆ  (Y  Yˆ ) .
Αυτό γινεται εφόσον η 1η παράγωγος και η 2η παράγωγος ως προς την εκτίμηση των
συντελεστών είναι μηδε΄ν και αρνητική αντίστοιχα.
Έχουμε,
min  ˆ ' ˆ   (Y  Yˆ ) ' (Y  Yˆ )  min f ( Bˆ )


f ( Bˆ )  (Y  Yˆ ) ' (Y  Yˆ )  (Y  X  Bˆ ) ' (Y  X  Bˆ )  Y ' ( X  Bˆ ) ' (Y  X  Bˆ ) 
Y ' Y  Y ' X  Bˆ  ( X  Bˆ ) ' Y  ( X  Bˆ ) '( X  Bˆ )  Y ' Y  Y ' X  Bˆ  Bˆ ' X 'Y  Bˆ ' X ' XBˆ
f
 (Y ' X ) ' ( X ' Y )  2 X ' XBˆ  2 X ' Y  2 X ' XBˆ  0  X ' XBˆ  X ' Y 
ˆ
B
Bˆ  ( X ' X ) 1 X ' Y
2 f
 2X ' X  0
Bˆ 2
Να δ.ο. το διάνυσμα της εκτίμησης Bˆ είναι αμερόληπτος εκτιμητής (μέρος του
θεωρήματος Gauss-Markov) και να υπολογίσετε τη διακύμανση του.
Bˆ  ( X ' X ) 1 X ' Y  ( X ' X ) 1 X '( XB  )  ( X ' X ) 1 X ' X B  ( X ' X ) 1 X '  
I
1
B  ( X ' X ) X ' ,
E ( Bˆ )  B  ( X ' X ) E ( X ' )  B
1
0
Var ( Bˆ )  E ( Bˆ  B)2  E  ( X ' X ) 1 X '  ' X ( X ' X ) 1   ( X ' X ) 1 X ' E ( ') X ( X ' X ) 1 
( X ' X ) 1 X ' 2 IX ( X ' X ) 1  2 ( X ' X ) 1 X ' X ( X ' X ) 1  2 ( X ' X ) 1
I