Regression und Kollokation

Präsentation zum Thema: "Regression und Kollokation"—  Präsentation transkript:

1 Regression und Kollokation
Lineare Regression Kovarianzfunktion Kollokation Ansatz Schätzung der Zielfunktion Anwendung Ausgleichungsrechnung II Gerhard Navratil

2 Ausgleichungsrechnung II
Regression Bisher funktionaler Zusammenhang zwischen Beobachtungen und Unbekannten gegeben Nicht bekannt z.B. bei Zusammenhang Getreideertrag – Düngermenge Zusammenhang Ausgaben für Bücher – Schulbildung Zusammenhang m2-Preis – Widmung Zusammenhang Differenz Soll-Ist-Strecke und Streckenlänge Ausgleichungsrechnung II Gerhard Navratil

3 Ausgleichungsrechnung II
Begriff ‚Regression‘ Definiert von Galton – Versuch, die Evolutionstheorie von Darwin zu belegen (Körpergröße von Kindern und ihren Eltern) Regression to mediocrity (Rückschritt zum Mittelmaß) Ausgleichungsrechnung II Gerhard Navratil

4 Ausgleichungsrechnung II
Was ist Regression Ausgangslage: Zufallsvariablen X und Y bzw. die Realisierungen xi und yi Gesucht: Verteilung von Y (Zielgröße) in Abhängigkeit von X (Einflussgröße) Oder: Beobachtungen yi, ‚varianzfreie‘ Parameter xi Ausgleichungsrechnung II Gerhard Navratil

5 Ausgleichungsrechnung II
Beispiele Stochastischer Prozess: Wert der Auto-kovarianzfunktion Cxx(k) ist abhängig von k Prädiktion nach kleinsten Quadraten: Wert der Kovarianzfunktion C(s) ist abhängig von s Zusammenhang zwischen Gewicht und Körpergröße: Gewicht abhängig, Größe unabhängig Ausgleichungsrechnung II Gerhard Navratil

6 Ausgleichungsrechnung II
Regression Abhängigkeit durch Funktion ausgedrückt: Funktionsparameter Q möglich Aufgabe: Bestimmung der Funktionsparameter Vorher notwendig: Festlegung der Art der Regression Lineare Regression Nicht-lineare Regression Multiple Regression Ausgleichungsrechnung II Gerhard Navratil

7 Lineare Regression (1) Es gilt: yi+vi=b0+b1x
Verbesserungen: in y-Richtung gemessener Abstand der yi von der Regressionsgeraden Verbesserungen nach rechts gebracht: Residuen e Matrizenschreibweise: y=Xb+e Unbekannte Parameter b0 und b1 Beobachtungen Designmatrix Negative Verbesserungen (Residuen) Ausgleichungsrechnung II Gerhard Navratil

8 Ausgleichungsrechnung II
Gerhard Navratil

9 Ausgleichungsrechnung II
Lineare Regression (2) Stochastisches Modell Damit Gewichtsmatrix Einheitsmatrix (Annahme Beobachtungen gleich genau und unkorreliert) Parameter nach Methode der kleinsten Quadrate bestimmt, also eTemin Lösung: Ausgleichungsrechnung II Gerhard Navratil

10 Ausgleichungsrechnung II
Lineare Regression (3) Übergang auf Schwerpunktskoordinaten – Translationsterm fällt weg  Signifikanz der übrigen Einflussparameter verbessert Lösung: Kovarianz der Zufallsvariablen x und y Steigung der Regressionsgeraden = Regressionskoeffizient Ausgleichungsrechnung II Gerhard Navratil

11 Regressionskoeffizient
Positive bzw. negative lineare Regression Derselbe Regressionskoeffizient kann verschiedene Datensätze repräsentieren Ausgleichungsrechnung II Gerhard Navratil

12 Ausgleichungsrechnung II
Lineare Regression (4) Vor Ansatz: Prüfen, ob tatsächlich ein linearer Zusammenhang besteht Möglichkeit: Korrelationskoeffizient Vorsicht: Scheinkorrelation (Geburten-Störche) Ausgleichungsrechnung II Gerhard Navratil

13 Ausgleichungsrechnung II
Multiple Regression Ansatz auf mehrere Einflussgrößen erweitert: yi=b0+b1x1i+b2x2i+…+buxui±e Formalen Vorgehen bleibt gleich, Dimension von b ändert sich Beispiel: Regressionsebene – Zusammen-hang zwischen Lagekoordinaten und Messwerten gesucht y=b0+b1x+b2y+e Ausgleichungsrechnung II Gerhard Navratil

14 Nicht-lineare Regression
Linearisierung notwendig  gute Näherungswerte wichtig Sonst wie Methode der kleinsten Quadrate Ausgleichungsrechnung II Gerhard Navratil

15 Ausgleichungsrechnung II
Wichtig Methoden sind nur mathematisch-statistische Betrachtungen! Kausale Beurteilung notwendig Sonst Sprüche wie: Mit Statistik kann alles bewiesen werden – auch das Gegenteil. Ausgleichungsrechnung II Gerhard Navratil

16 Ausgleichungsrechnung II
Kovarianzfunktion (1) Verhalten von Residuen kann zur Ver-feinerung von Approximationen verwendet werden Erhaltensneigung innerhalb eines Feldes Gekennzeichnet durch Korrelationslänge Form Ausgleichungsrechnung II Gerhard Navratil

17 Ausgleichungsrechnung II
Kovarianzfunktion (2) Typische Ansätze Linear Exponentiell Periodisch Ausgleichungsrechnung II Gerhard Navratil

18 Ausgleichungsrechnung II
Kollokation Bisher: Parameter durch Ausgleichung bestimmt und anschließend Prädiktion Kombination dieser Schritte: Kollokation Idee: Zerlegung der Beobachtungen in Systematischer Anteil (Trend) Unregelmäßiger Anteil (Signal) Zufällige Messabweichungen (Rauschen) Ausgleichungsrechnung II Gerhard Navratil

19 Ausgleichungsrechnung II
Gerhard Navratil

20 Kollokationsansatz (1)
Erweiterung des Regressionsansatzes: y=Xb+s+n mit n … Noise (Rauschen = Residuen) s … Signal y … diskrete Beobachtungen Xb . Trend (eig. Regression) Ausgleichungsrechnung II Gerhard Navratil

21 Kollokationsansatz (2)
Stochastisches Modell: 2 Teile Zufällige Fehler, stochastisch unabhängig mit D Diagonalmatrix Signal, korreliert mit Css voll besetzt, symmetrisch Beschreibung des Signals wird für Interpolation benutzt  Interpolationsvektor Mehrere Punkte: Matrix Ausgleichungsrechnung II Gerhard Navratil

22 Kollokationsansatz (3)
Kreuzkovarianzmatrix zwischen n Stütz-stellen und m Prädiktionspunkten Ausgleichungsrechnung II Gerhard Navratil

23 Schätzung der Zielfunktion (1)
Für (n.1)-Vektor von Beobachtungen sy+n+Xb-y=0 sy: Signalanteil aus Messwerten Zusätzlich prädizierte Werte yP=XPb+sP sP: Stochastisches Signal über Kovarianz-beziehung Gleichungssystem Lage der zu prädizierenden Punkte Ausgleichungsrechnung II Gerhard Navratil

24 Schätzung der Zielfunktion (2)
Matrixschreibweise: System der Form Bv+Ax-l=0 Stochastisches Modell Mit w=-l: Allgemeinfall der Ausgleichungsrechnung Ausgleichungsrechnung II Gerhard Navratil

25 Schätzung der Zielfunktion (3)
Kunstgriff von Moritz: Signal, Trend und Rauschen sind unabhängig von den Interpolationsstellen  Zunächst nur oberer Teil betrachtet Bedingungsgleichungen Normalgleichungssystem Ausgleichungsrechnung II Gerhard Navratil

26 Schätzung der Zielfunktion (4)
Parametervektor b: Korrelatenvektor k: (n,1)-Hilfsvektor z mit z=y-Xb=s+n (ent-spricht Verbesserungsvektor bei einfacher Regression) ergibt sich mit Czz=Css+D: Ausgleichungsrechnung II Gerhard Navratil

27 Schätzung der Zielfunktion (5)
Mit Korrelaten Bestimmung von sP über Für Einzelkomponenten getrennte Bestimmung Ausgleichungsrechnung II Gerhard Navratil

28 Ausgleichungsrechnung II
Anwendung Filterung: Verbesserte Approximation des Signals in den Stützstellen, keine Interpolation Prädiktion: Gegebene Approximations-funktion, Werte an Interpolationsstellen sollen verbessert werden Ausgleichungsrechnung II Gerhard Navratil

29 Ausgleichungsrechnung II
Anwendungsbeispiele Schweremessungen: Gravimetermessungen mit Messfehlern, Schwereanomalien als Signal Satellitenbeobachtungen: Trend ist ‚normale‘ Bahn, Bahnstörungen als Signal Transformationen: Trend ist Transformation selbst, Klaffungen sind Signal Ausgleichungsrechnung II Gerhard Navratil