Regression und Kollokation Lineare Regression Kovarianzfunktion Kollokation Ansatz Schätzung der Zielfunktion Anwendung Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Regression Bisher funktionaler Zusammenhang zwischen Beobachtungen und Unbekannten gegeben Nicht bekannt z.B. bei Zusammenhang Getreideertrag – Düngermenge Zusammenhang Ausgaben für Bücher – Schulbildung Zusammenhang m2-Preis – Widmung Zusammenhang Differenz Soll-Ist-Strecke und Streckenlänge Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Begriff ‚Regression‘ Definiert von Galton – Versuch, die Evolutionstheorie von Darwin zu belegen (Körpergröße von Kindern und ihren Eltern) Regression to mediocrity (Rückschritt zum Mittelmaß) Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Was ist Regression Ausgangslage: Zufallsvariablen X und Y bzw. die Realisierungen xi und yi Gesucht: Verteilung von Y (Zielgröße) in Abhängigkeit von X (Einflussgröße) Oder: Beobachtungen yi, ‚varianzfreie‘ Parameter xi Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Beispiele Stochastischer Prozess: Wert der Auto-kovarianzfunktion Cxx(k) ist abhängig von k Prädiktion nach kleinsten Quadraten: Wert der Kovarianzfunktion C(s) ist abhängig von s Zusammenhang zwischen Gewicht und Körpergröße: Gewicht abhängig, Größe unabhängig Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Regression Abhängigkeit durch Funktion ausgedrückt: Funktionsparameter Q möglich Aufgabe: Bestimmung der Funktionsparameter Vorher notwendig: Festlegung der Art der Regression Lineare Regression Nicht-lineare Regression Multiple Regression Ausgleichungsrechnung II Gerhard Navratil
Lineare Regression (1) Es gilt: yi+vi=b0+b1x Verbesserungen: in y-Richtung gemessener Abstand der yi von der Regressionsgeraden Verbesserungen nach rechts gebracht: Residuen e Matrizenschreibweise: y=Xb+e Unbekannte Parameter b0 und b1 Beobachtungen Designmatrix Negative Verbesserungen (Residuen) Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Lineare Regression (2) Stochastisches Modell Damit Gewichtsmatrix Einheitsmatrix (Annahme Beobachtungen gleich genau und unkorreliert) Parameter nach Methode der kleinsten Quadrate bestimmt, also eTemin Lösung: Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Lineare Regression (3) Übergang auf Schwerpunktskoordinaten – Translationsterm fällt weg Signifikanz der übrigen Einflussparameter verbessert Lösung: Kovarianz der Zufallsvariablen x und y Steigung der Regressionsgeraden = Regressionskoeffizient Ausgleichungsrechnung II Gerhard Navratil
Regressionskoeffizient Positive bzw. negative lineare Regression Derselbe Regressionskoeffizient kann verschiedene Datensätze repräsentieren Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Lineare Regression (4) Vor Ansatz: Prüfen, ob tatsächlich ein linearer Zusammenhang besteht Möglichkeit: Korrelationskoeffizient Vorsicht: Scheinkorrelation (Geburten-Störche) Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Multiple Regression Ansatz auf mehrere Einflussgrößen erweitert: yi=b0+b1x1i+b2x2i+…+buxui±e Formalen Vorgehen bleibt gleich, Dimension von b ändert sich Beispiel: Regressionsebene – Zusammen-hang zwischen Lagekoordinaten und Messwerten gesucht y=b0+b1x+b2y+e Ausgleichungsrechnung II Gerhard Navratil
Nicht-lineare Regression Linearisierung notwendig gute Näherungswerte wichtig Sonst wie Methode der kleinsten Quadrate Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Wichtig Methoden sind nur mathematisch-statistische Betrachtungen! Kausale Beurteilung notwendig Sonst Sprüche wie: Mit Statistik kann alles bewiesen werden – auch das Gegenteil. Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Kovarianzfunktion (1) Verhalten von Residuen kann zur Ver-feinerung von Approximationen verwendet werden Erhaltensneigung innerhalb eines Feldes Gekennzeichnet durch Korrelationslänge Form Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Kovarianzfunktion (2) Typische Ansätze Linear Exponentiell Periodisch Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Kollokation Bisher: Parameter durch Ausgleichung bestimmt und anschließend Prädiktion Kombination dieser Schritte: Kollokation Idee: Zerlegung der Beobachtungen in Systematischer Anteil (Trend) Unregelmäßiger Anteil (Signal) Zufällige Messabweichungen (Rauschen) Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Gerhard Navratil
Kollokationsansatz (1) Erweiterung des Regressionsansatzes: y=Xb+s+n mit n … Noise (Rauschen = Residuen) s … Signal y … diskrete Beobachtungen Xb . Trend (eig. Regression) Ausgleichungsrechnung II Gerhard Navratil
Kollokationsansatz (2) Stochastisches Modell: 2 Teile Zufällige Fehler, stochastisch unabhängig mit D Diagonalmatrix Signal, korreliert mit Css voll besetzt, symmetrisch Beschreibung des Signals wird für Interpolation benutzt Interpolationsvektor Mehrere Punkte: Matrix Ausgleichungsrechnung II Gerhard Navratil
Kollokationsansatz (3) Kreuzkovarianzmatrix zwischen n Stütz-stellen und m Prädiktionspunkten Ausgleichungsrechnung II Gerhard Navratil
Schätzung der Zielfunktion (1) Für (n.1)-Vektor von Beobachtungen sy+n+Xb-y=0 sy: Signalanteil aus Messwerten Zusätzlich prädizierte Werte yP=XPb+sP sP: Stochastisches Signal über Kovarianz-beziehung Gleichungssystem Lage der zu prädizierenden Punkte Ausgleichungsrechnung II Gerhard Navratil
Schätzung der Zielfunktion (2) Matrixschreibweise: System der Form Bv+Ax-l=0 Stochastisches Modell Mit w=-l: Allgemeinfall der Ausgleichungsrechnung Ausgleichungsrechnung II Gerhard Navratil
Schätzung der Zielfunktion (3) Kunstgriff von Moritz: Signal, Trend und Rauschen sind unabhängig von den Interpolationsstellen Zunächst nur oberer Teil betrachtet Bedingungsgleichungen Normalgleichungssystem Ausgleichungsrechnung II Gerhard Navratil
Schätzung der Zielfunktion (4) Parametervektor b: Korrelatenvektor k: (n,1)-Hilfsvektor z mit z=y-Xb=s+n (ent-spricht Verbesserungsvektor bei einfacher Regression) ergibt sich mit Czz=Css+D: Ausgleichungsrechnung II Gerhard Navratil
Schätzung der Zielfunktion (5) Mit Korrelaten Bestimmung von sP über Für Einzelkomponenten getrennte Bestimmung Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Anwendung Filterung: Verbesserte Approximation des Signals in den Stützstellen, keine Interpolation Prädiktion: Gegebene Approximations-funktion, Werte an Interpolationsstellen sollen verbessert werden Ausgleichungsrechnung II Gerhard Navratil
Ausgleichungsrechnung II Anwendungsbeispiele Schweremessungen: Gravimetermessungen mit Messfehlern, Schwereanomalien als Signal Satellitenbeobachtungen: Trend ist ‚normale‘ Bahn, Bahnstörungen als Signal Transformationen: Trend ist Transformation selbst, Klaffungen sind Signal Ausgleichungsrechnung II Gerhard Navratil