Ανάλυση Πολλαπλής Παλινδρόμησης

Παρουσίαση με θέμα: "Ανάλυση Πολλαπλής Παλινδρόμησης"— Μεταγράφημα παρουσίασης:

1 Ανάλυση Πολλαπλής Παλινδρόμησης
y = b0 + b1x1 + b2x bkxk + u 3. Ασυμπτωτικές ιδιότητες

2 Συνέπεια Κάτω από τις υποθέσεις των Gauss-Markov οι OLS εκτιμητές είναι BLUE, αλλά σε άλλες περιπτώσεις δεν είναι δυνατό να βρεθούνε πάντοτε αμερόληπτοι εκτιμητές Σε αυτές τις περιπτώσεις, μπορούμε να εγκαταστήσουμε εκτιμητές οι οποίοι είναι συνεπείς, εννοώντας καθώς n  ∞, η κατανομή των εκτιμητών συρρικνώνεται στις τιμές των παραμέτρων.

3 Κατανομές Δειγματοληψίας as n 
n1 < n2 < n3 n2 n1 b1

4 Συνέπεια του OLS Κάτω από τις υποθέσεις των Gauss-Markov, οι OLS εκτιμητές είναι συνεπείς (και αμερόληπτοι) Συνέπεια μπορεί να αποδειχθεί για την περίπτωση της απλής παλινδρόμησης κατά τρόπο παρόμοιο με αυτόν που αποδείχθηκε η αμεροληψία Χρειάζεται να πάρουμε το όριο κατά πιθανότητα (plim) για να αποδείξουμε συνέπεια.

5 Αποδεικνύοντας Συνέπεια

6 Μια Ασθενέστερη Υπόθεση
Για την αμεροληψία, υποθέσαμε μία προσδοκώμενη αναμενόμενη τιμή ίση με το 0 – E(u|x1, x2,…,xk) = 0 Για την συνέπεια, μπορούμε να έχουμε μία ασθενέστερη υπόθεση με αναμενόμενη τιμή και συνδιακύμανση ίσες με το 0. – E(u) = 0 και Cov(xj,u) = 0, για j = 1, 2, …, k Χωρίς αυτή την υπόθεση, ο OLS θα είναι μεροληπτικός και ασυνεπής.

7 Εξάγοντας την Αμεροληψία
Ακριβώς όπως εξάγαμε το μεροληπτικό σφάλμα παραληφθείσας μεταβλητής νωρίτερα, τώρα θέλουμε να σκεφτούμε σχετικά με την ασυνέπεια, ή ασυμπτωτική μεροληψία, σε αυτή την περίπτωση

8 Ασυμπτωτική Αμεροληψία (συνεχ.)
Έτσι, σκεπτόμενοι ως προς την κατεύθυνση της ασυμπτωτικής μεροληψίας είναι ακριβώς το ίδιο σαν να σκεπτόμαστε σχετικά με την κατεύθυνση του μεροληπτικού σφάλματος παραληφθείσας μεταβλητής Βασική διαφορά είναι ότι η ασυμπτωτική μεροληψία κάνει χρήση την διακύμανση και τη συνδιακύμανση του πληθυσμού, ενώ η μεροληψία κάνει χρήση τις αντίστοιχες ποσότητες του δείγματος Θυμηθείτε, η ασυνέπεια είναι ένα πρόβλημα για μεγάλα δείγματα - δεν εξαλείφεται με την προσθήκη δεδομένων

9 Επαγωγή για Μεγάλα Δείγματα
Ανακαλέστε ότι κάτω από τις υποθέσεις του Κλασικού Γραμμικού Μοντέλου, οι κατανομές δειγματοληψίας είναι κανονικές, έτσι μπορούμε να εξάγουμε τις t και F κατανομές για έλεγχο υποθέσεων Αυτή η ακριβή κανονικότητα οφειλότανε στο ότι υποθέταμε ότι η κατανομή του πληθυσμού των σφαλμάτων ήτανε κανονική Από αυτή την υπόθεση των σφαλμάτων συνεπάγεται ότι και η κατανομή των y, δοθέντος τα x’s, είναι και αυτή κανονική

10 Επαγωγή για Μεγάλα Δείγματα (συνεχ.)
Εύκολα μπορούμε να βρούμε παραδείγματα στα οποία αυτή η ακριβής υπόθεση της κανονικότητας αποτυχαίνει Οποιαδήποτε λοξή μεταβλητή, όπως των μισθών, των συλλήψεων, των αποταμιεύσεων, κ.λπ. Δεν είναι κανονική, αφού μια κανονική κατανομή είναι συμμετρική Η υπόθεση της κανονικότητας δεν απαιτείται για να συμπεράνουμε ότι ο OLS είναι BLUE, μόνο για επαγωγή

11 Κεντρικό Οριακό Θεώρημα
Βασισμένοι στο κεντρικό οριακό θεώρημα, μπορούμε να δείξουμε ότι οι OLS εκτιμητές είναι ασυμπτωτικά κανονικοί Από την ασυμπτωτική κανονικότητα συνεπάγεται ότι P(Z<z)F(z) καθώς n , ή P(Z<z)  F(z) Το κεντρικό οριακό θεώρημα αναφέρει ότι ο τυποποιημένος μέσος όρος από κάθε πληθυσμό με μέση τιμή m και διακύμανση s2 είναι ασυμπτωτικά ~N(0,1), ή

12 Ασυμπτωτική Κανονικότητα
Κάτω από τις υποθέσεις των Gauss-Markov,

13 Ασυμπτωτική Κανονικότητα (συνεχ)
Επειδή η t κατανομή προσεγγίζει την κανονική κατανομή για μεγάλους df, μπορούμε επίσης να πούμε ότι Σημειώστε ότι ενώ δεν χρειαζόμαστε πλέον να υποθέσουμε κανονικότητα με ένα μεγάλο δείγμα, χρειαζόμαστε ακόμη την ομοσκεδαστικότητα

14 Ασυμπτωτικά Τυπικά Σφάλματα
Εάν u δεν είναι κανονικά κατανεμημένο, ορισμένες φορές θα αναφερόμαστε στα τυπικά σφάλματα ως ασυμπτωτικά τυπικά σφάλματα , αφού Έτσι αναμένεται τα τυπικά σφάλματα να μικραίνουνε με λόγο ανάλογο ως προς τον αντίστροφο του √n

15 Η Στατιστική του Πολλαπλασιαστή του Lagrange
Άπαξ και χρησιμοποιούμε μεγάλα δείγματα και βασιζόμαστε στην ασυμπτωτική κανονικότητα για επαγωγή, μπορούμε να χρησιμοποιούμε και άλλα τεστ από τα t και F. Ο πολλαπλασιαστής του Lagrange ή στατιστική LM είναι μία εναλλακτική για τον έλεγχο πολλαπλών περιορισμών αποκλεισμού Επειδή η στατιστική LM χρησιμοποιεί μία βοηθητική παλινδρόμηση, όπου καλείται στατιστική n-R-τετράγωνο.

16 Η Στατιστική του Πολλαπλασιαστή του Lagrange (συνεχ.)
Υποθέστε ότι έχουμε ένα τυπικό μοντέλο, y = b0 + b1x1 + b2x bkxk + u και η μηδενική υπόθεση είναι H0: bk-q+1 = 0, ... , bk = 0 Πρώτα, εκτελούμε το μοντέλο υπό περιορισμούς

17 Η Στατιστική του Πολλαπλασιαστή του Lagrange (συνεχ.)
Με ένα μεγάλο δείγμα, το αποτέλεσμα από ένα F τεστ και από ένα LM τεστ θα πρέπει να είναι όμοια Σε αντίθεση με τα F και t τεστ για ένα αποκλεισμό, τα LM και F τετσ δεν είναι απαράλλαχτα

18 Ασυμπτωτική Αποτελεσματικότητα
Εκτιμητές εκτός OLS θα είναι συνεπής Ωστόσο, κάτω από τις υποθέσεις των Gauss-Markov, οι OLS εκτιμητές θα έχουνε τις μικρότερες ασυμτωτικές διακυμάνσεις Λέμε ότι ο OLS είναι ασυμπτωτικά αποτελεσματικός Είναι σημαντικό να θυμόμαστε τις υποθέσεις. Εάν ομοσκεδαστικοτητα δεν ισχύει, τότε το παραπάνω δεν ισχύει