12 Das lineare Regressionsmodell

12 Das lineare Regressionsmodell 12.1 Einfaches lineares Regressionsmodell ___ 12.1.1 Grundmodell und KQ-Methode ___ Statistisches Grundmodell ___ Herleitung der KQ-Schätzer ___ Eigenschaften der empirischen KQ-Regression ___ Bestimmtheitsmaß und Standardfehler der Regression ___ 12.1.2 Modellannahmen und theoretische KQ-Regression ___ Ensembles von Modellannahmen ___ Theoretische KQ-Regression ___ 12.1.3 Verteilungstheoretische Grundlagen ___ Verteilungen der KQ-Schätzer ___ Konsistenz und Effizienz der KQ-Schätzer ___ 2

12 Das lineare Regressionsmodell Schätzung der Varianzen der KQ-Schätzer ___ Verteilungen der Inferenzstatistiken ___ 12.1.4 Schätzen und Testen ___ Konfidenzintervalle und Tests ___ Spezialfall: Binärer Regressor ___ Adäquatheit bestimmter Modellannahmen ___ Fallbeispiel 1: Bewässerung und Wachstum ___ Fallbeispiel 2: Klassengröße und Lernerfolg ___ 12.2 Einführung in das multiple lineare Regressionsmodell ___ 12.2.1 Partielle lineare KQ-Regression ___ Empirische partielle Regression ___ Theoretische partielle Regression ___ 3

12 Das lineare Regressionsmodell Verbindung von Empirie und Theorie ___ 12.2.2 Multiple lineare KQ-Regression ___ Empirische multiple Regression ___ Theoretische multiple Regression ___ Verbindung von Empirie und Theorie ___ Statistische Modelle und Inferenz ___ 12.2.3 Fallbeispiele ___ Fallbeispiel 2 fortgesetzt: Determinanten des Lernerfolgs ___ Fallbeispiel 3: Gewicht und Geschlecht ___ Fallbeispiel 4: Binäre Regressoren und ANOVA-Modelle ___ 4

12.1 Einfaches lineares Regressionsmodell 12.1.1 Grundmodell und KQ-Methode Statistisches Grundmodell ● Hintergrund ●

12.1 Einfaches lineares Regressionsmodell ● Definition ● ● Interpretation ●

12.1 Einfaches lineares Regressionsmodell Herleitung der KQ-Schätzer ● Lösung des empirischen Kleinste-Quadrate-Problems ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Der Fall einer nicht eindeutigen Lösung ●

12.1 Einfaches lineares Regressionsmodell ● Übersetzung in eine Schätzmethode ●

12.1 Einfaches lineares Regressionsmodell Eigenschaften der empirischen KQ-Regression ● Übersicht ●

12.1 Einfaches lineares Regressionsmodell ● Die KQ-Gerade geht durch den Schwerpunkt ●

12.1 Einfaches lineares Regressionsmodell ● Die Summe der gefitteten Werte ist gleich der Summe der y-Werte ●

12.1 Einfaches lineares Regressionsmodell ● Die Summe der KQ-Residuen ist gleich 0 ●

12.1 Einfaches lineares Regressionsmodell ● KQ-Residuen und x-Werte sind unkorreliert ● ● Gefittete Werte und KQ-Residuen sind unkorreliert ●

12.1 Einfaches lineares Regressionsmodell ● Es gilt die Streuungszerlegungsformel ●

12.1 Einfaches lineares Regressionsmodell Bestimmtheitsmaß und Standardfehler der Regression

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Beispiel 12.1.1 ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Standardfehler der Regression ● ● Beispiel 12.1.2 ●

12.1 Einfaches lineares Regressionsmodell 12.1.2 Modellannahmen und theoretische KQ-Regression Ensembles von Modellannahmen ● Modell KN: Nichtstochastischer Regressor ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Modell KS: Stochastischer Regressor ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Beispiel 12.1.3: Bivariate Normalverteilung ●

12.1 Einfaches lineares Regressionsmodell ● Modell BH: Bedingt heteroskedastischer Fehler ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Modell UHV: Heterogen verteilte Stichprobenvariablen ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Zusammenfassung ●

12.1 Einfaches lineares Regressionsmodell ● Alternativ auch (Xi, Ui) statt (Xi, Yi) ● ● Sonstige Verallgemeinerungen ●

12.1 Einfaches lineares Regressionsmodell Theoretische KQ-Regression ● Hintergrund ● ● Definition und Eigenschaften ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Zusammenhang zur Modellgeraden in den Modellen KS und BH ● ● Zusammenhang zur Modellgeraden in den Modellen KN und UHV ●

12.1 Einfaches lineares Regressionsmodell 12.1.3 Verteilungstheoretische Grundlagen Verteilungen der KQ-Schätzer ● Alternative Darstellungen der KQ-Schätzer ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Verteilung der KQ-Schätzer im Modell KN ●

12.1 Einfaches lineares Regressionsmodell Achsenabschnitts

12.1 Einfaches lineares Regressionsmodell ● Verteilung der KQ-Schätzer im Modell KS ●

12.1 Einfaches lineares Regressionsmodell ● Verteilung des KQ-Schätzers für β1 im Modell BH ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Verteilung des KQ-Schätzers für β0 im Modell BH ● ● Verteilung der KQ-Schätzer im Modell UHV ●

12.1 Einfaches lineares Regressionsmodell Konsistenz und Effizienz der KQ-Schätzer ● Konsistenz der KQ-Schätzer ● ● Effizienz der KQ-Schätzer und Gauß-Markov-Theorem ●

12.1 Einfaches lineares Regressionsmodell Schätzung der Varianzen der KQ-Schätzer ● Hintergrund ●

12.1 Einfaches lineares Regressionsmodell ● Schätzung der Varianzen im klassischen Fall ●

12.1 Einfaches lineares Regressionsmodell ● Schätzung der Varianzen im Modell BH ● ● Schätzung der Varianzen im Modell UHV ●

12.1 Einfaches lineares Regressionsmodell Verteilungen der Inferenzstatistiken ● Hintergrund ● ● Verteilungen im klassischen Modell ● ● Verteilungen in den Modellen BH und UHV ●

12.1 Einfaches lineares Regressionsmodell 12.1.4 Schätzen und Testen Konfidenzintervalle und Tests ● Herleitung von Konfidenzintervallen ● ● Konstruktion von Tests ●

12.1 Einfaches lineares Regressionsmodell ● Zusammenfassung ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Äquivalenz der Tests auf β1 = 0 und ρXY = 0 ●

12.1 Einfaches lineares Regressionsmodell Spezialfall: Binärer Regressor ● Hintergrund ● ● Interpretation der Regressionskoeffizienten ●

12.1 Einfaches lineares Regressionsmodell ● KQ-Schätzer bei binärem Regressor ●

12.1 Einfaches lineares Regressionsmodell ● Varianzschätzer bei binärem Regressor ●

12.1 Einfaches lineares Regressionsmodell ● Äquivalenz der Inferenz bezüglich β1 und 1  0 ● ● Tests über 1  0 auch bei stochastischen Gruppenumfängen ●

12.1 Einfaches lineares Regressionsmodell Adäquatheit bestimmter Modellannahmen ● Hintergrund ● ● Noch vor den eigentlichen Annahmen: Repräsentativität ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Linearitätsannahme ● ● Stochastischer oder nichtstochastischer Regressor ● ● Messfehlerprobleme ● ● Unabhängigkeitsannahme ● ● E(Ui | Xi) = 0 und OVB-Problem ●

12.1 Einfaches lineares Regressionsmodell ● E(Ui | Xi) = 0, Messfehler- und Endogenitätsproblem ● ● Cov(Xi, Ui) = 0 lässt sich nicht anhand der KQ-Residuen prüfen ●

12.1 Einfaches lineares Regressionsmodell ● Homoskedastischer oder heteroskedastischer Fehler ● ● Normalverteilungsannahme ● ● Identisch oder heterogen verteilt ● ● Technische Annahmen ●

12.1 Einfaches lineares Regressionsmodell ● Fazit und Empfehlung ●

12.1 Einfaches lineares Regressionsmodell Fallbeispiel 1: Bewässerung und Wachstum ● Hintergrund ●

12.1 Einfaches lineares Regressionsmodell ● Modell KN: Diskussion der Modellannahmen ●

12.1 Einfaches lineares Regressionsmodell ● Berechnung ● ● Ergebnisse und Interpretation ●

12.1 Einfaches lineares Regressionsmodell Fallbeispiel 2: Klassengröße und Lernerfolg ● Hintergrund ●

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell

12.1 Einfaches lineares Regressionsmodell ● Modell BH: Diskussion der Modellannahmen ● ● Berechnung ● ● Ergebnisse und Interpretation ●

12.1 Einfaches lineares Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell 12.2.1 Partielle lineare KQ-Regression Empirische partielle Regression ● Hintergrund ● ● Beispiel 12.2.1: Empirische partielle Regression ●

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell ● Zusammenfassung und Formelapparat ●

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell ● Empirische Verzerrung ● ● Erweiterung auf höherdimensionale Fälle ●

12.2 Einführung in das multiple lineare Regressionsmodell Theoretische partielle Regression ● Zusammenfassung und Formelapparat ●

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell ● Bedingte und partielle Korrelation ● ● Erweiterung auf höherdimensionale Fälle ● ● Theoretische Verzerrung ●

12.2 Einführung in das multiple lineare Regressionsmodell Verbindung von Empirie und Theorie ● Grundlagen ● ● Konsistente Schätzungen bei der partiellen Regression ● ● Asymptotische Verzerrung ● ● Erweiterung auf höherdimensionale Fälle ●

12.2 Einführung in das multiple lineare Regressionsmodell 12.2.2 Multiple lineare KQ-Regression Empirische multiple Regression ● Motivation und Überblick ● ● Definition ●

12.2 Einführung in das multiple lineare Regressionsmodell 𝒙 𝒊𝟏 , 𝒙 𝒊𝟐 ,…, 𝒙 𝒊𝒑

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell ● Eigenschaften der empirischen multiplen KQ-Regression ● ● Bestimmtheitsmaß und Standardfehler der Regression ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Zusammenhang zur empirischen partiellen Regression ● ● Beispiel 12.2.1 fortgesetzt ●

12.2 Einführung in das multiple lineare Regressionsmodell Theoretische multiple Regression ● Definition ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Eigenschaften der theoretischen multiplen KQ-Regression ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Theoretisches Bestimmtheitsmaß und theoretischer Standardfehler ● ● Zusammenhang zur theoretischen partiellen Regression ●

12.2 Einführung in das multiple lineare Regressionsmodell Verbindung von Empirie und Theorie

12.2 Einführung in das multiple lineare Regressionsmodell Statistische Modelle und Inferenz ● Hintergrund ● ● Statistisches Grundmodell ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Interpretation ● ● Ensembles von Modellannahmen ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Keine Multikollinearität ● ● Modellimmanente Eigenschaften ● ● Theoretische Regressionsebene = theoretische KQ-Regressionsebene ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Schätzen und Testen ●

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell ● Adäquatheit von Modellannahmen und OVB ● ● OVB im 3-Variablen-Fall ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Direkte und indirekte Effekte und Merkregeln ●

12.2 Einführung in das multiple lineare Regressionsmodell ● Streuungszerlegung und General-F-Test ●

12.2 Einführung in das multiple lineare Regressionsmodell 12.2.3 Fallbeispiele Fallbeispiel 2 fortgesetzt: Determinanten des Lernerfolgs

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell Fallbeispiel 3: Gewicht und Geschlecht

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell Fallbeispiel 4: Binäre Regressoren und ANOVA-Modelle ● Einfache Regression mit binärem Regressor ●

12.2 Einführung in das multiple lineare Regressionsmodell

12.2 Einführung in das multiple lineare Regressionsmodell ● Einfache ANOVA-Modelle ●

12.2 Einführung in das multiple lineare Regressionsmodell