Wahrscheinlichkeitstheorie 521.202 / SES.125 Parameterschätzung Wahrscheinlichkeitstheorie Torsten Mayer-Gürr

Wiederholte Streckenmessung mit einem Tachymeter Beispiel Wiederholte Streckenmessung mit einem Tachymeter Messungen (Beobachtungen): 100,006 m 100,005 m 99,995 m 100,008 m 99,993 m 0,000 m 99,996 m 99,998 m 99,992 m 100,000 m 100,004 m 99,991 m 99,997 m 100,002 m … Grober Fehler 25.11.2015

Messfehler Grobe Fehler: Falschen Punkt angemessen Rechenfehler / Programmierfehler … Systematische Fehler: Kalibrierung des Instruments fehlerhaft (Maßstabsfaktor im Instrument) Nicht beachtete physikalische Effekte (Laufzeitverzögerung in der Atmosphäre, Erdkrümmung, …) (Mitteln sich nicht heraus) Zufällige Fehler: Elektronisches Rauschen Turbulenzen in der Atmosphäre Nicht vorhersagbar => In dieser Vorlesung behandelt 25.11.2015

Beispiel Histogramm von 10000 Beobachtungen Anzahl Gemessene Strecke (reduziert um 100 m) [mm] 25.11.2015

Dreiecksnetz 1. Ordnung 25.11.2015

Gauß-Markoff Modell Gauß-Markoff Modell Rechnung startet immer mit Beobachtungen, die zufällige Fehler enthalten. mit Schätzung der Lösung Fragen: Ist das wirklich die beste Lösung (Wahrscheinlichste Lösung)? Wie kommt man von der Genauigkeit der Beobachtungen zur Genauigkeit der Parameter => Varianzfortpflanzung Was ist eigentlich diese Kovarianzmatrix? Schätzung der ausgeglichenen Beobachtungen Schätzung der Residuen Schätzung des Varianzfaktors Schätzung der Genauigkeit der Lösung 25.11.2015

Positionsbestimmung Positionen Koordinaten Pail 25.11.2015

Positionsbestimmung Positionen Koordinaten Hat sich der Punkt bewegt? Hypothesentest Aussage über Wahrscheinlichkeit 25.11.2015

Wahrscheinlichkeitsrechnung

Wahrscheinlichkeit Definition: Die relative Häufigkeit eines Ereignisses A ergibt sich mit der Anzahl 𝑛 𝐴 des Eintreffens des Ereignisses A unter n Versuchen zu Definition: Die Wahrscheinlichkeit für ein Ereignis A ergibt sich aus der relativen Häufigkeit für 𝑛→∞: Für die Wahrscheinlichkeit gilt: Beispiel: Bei 100 Würfen mir einem Würfel wurde 18 mal die Zahl Sechs gewürfelt. Die relative Häufigkeit ist: Beispiel: Die Wahrscheinlichkeit, dass beim nächsten Wurf wieder eine Sechs fällt: 25.11.2015

Unabhängige Ereignisse Definition: Zwei Ereignisse A und B bezeichnet man als unabhängig, wenn die Wahrscheinlichkeit P(A) des Ereignisses A, nicht vom Eintreffen des Ereignisses B abhängt. Sind die Ereignisse A und B voneinander unabhängig, gilt: (Die Wahrscheinlichkeiten werden multipliziert) Beispiel: 2 Sechsen würfeln 25.11.2015

Unabhängige Ereignisse 15 rote, 5 blaue Kugeln Wie groß ist die Wahrscheinlichkeit, nach einer roten ein blaue Kugel mit Zurücklegen zu ziehen? rote Kugel: blaue Kugel: 25.11.2015

Bedingte Wahrscheinlichkeit 15 rote, 5 blaue Kugeln Wie groß ist die Wahrscheinlichkeit, nach einer roten ein blaue Kugel ohne Zurücklegen zu ziehen? rote Kugel: blaue Kugel: Definition: Als bedingte Wahrscheinlichkeit P(A|B) des Ereignisses A unter der Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis 25.11.2015

Bedingte Wahrscheinlichkeit Definition: Als bedingte Wahrschinlichkeit P(A|B) des Ereignisses A unter der Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis Definition: Die Ereignisse A und B sind voneinander unabhängig, falls gilt: Sind die Ereignisse A und B voneinander unabhängig, gilt: Beispiel: 2 Sechsen würfeln 25.11.2015

Wahrscheinlichkeit Lotto: Wie groß ist die Wahrscheinlichkeit 6 aus 45 zu ziehen? 1 2 3 4 5 6 7 … 45 Reihenfolge beliebig: k! Reihenfolge beliebig: (n-k)! Satz: Die Anzahl der Permutationen n verschiedener Element ist gleich: Satz: Für n verschiedene Elemente beträgt die Anzahl der Kombinationen k-ter Ordnung ohne Berücksichtigung der Anordnung: Wahrscheinlichkeit für 6er im Lotto 25.11.2015

Zufallsvariable

Zufallsvariable Zufallsereignisse: Wurf zweier Münzen Zufallsvariable: Anzahl Kopf Wahrscheinlichkeiten: Anzahl Kopf Definition: Man bezeichnet eine eindeutige reell wertige Funktion 𝑋 𝑠 𝑖 , die auf der Menge S der Elementarereignisse 𝑠 𝑖 definiert ist, als Zufallsvariable, falls für jedes beliebige 𝑥∈𝑅 das Ereignis, für das 𝑋 𝑠 𝑖 <𝑥 gilt, zu den zufälligen Ereignissen von Z gehört. 25.11.2015

Zufallsvariable Zufallsereignisse: Wurf zweier Münzen Zufallsvariable: Anzahl Kopf Wahrscheinlichkeit: -1 1 2 3 0.25 0.50 0.75 1.00 Definition: Man bezeichnet eine eindeutige reell wertige Funktion 𝑋 𝑠 𝑖 , die auf der Menge S der Elementarereignisse 𝑠 𝑖 definiert ist, als Zufallsvariable, falls für jedes beliebige 𝑥∈𝑅 das Ereignis, für das 𝑋 𝑠 𝑖 <𝑥 gilt, zu den zufälligen Ereignissen von Z gehört. 25.11.2015

Diskrete Zufallsvariable Eine diskrete Zufallsvariable X nimmt endlich viele oder abzählbar unendlich viele Werte an. Werte: Wahrscheinlichkeit: Dichtefunktion, Wahrscheinlichkeitsdichte, Wahrscheinlichkeitsverteilung, probability density function (pdf) und bzw. Verteilungsfunktion 25.11.2015

Dichte und Verteilungsfunktion Dichtefunktion: Verteilungsfunktion: 1.00 1.00 0.75 0.75 0.50 0.50 0.25 0.25 -1 1 2 3 -1 1 2 3 25.11.2015

Diskrete Verteilungen: Binomialverteilung (Tafel)

Binomialverteilung 1 1 1 1 2 1 1 3 3 1 1 4 6 4 1 1 5 10 10 5 1 25.11.2015

Binomialverteilung 1 1 1 1 2 1 1 3 3 1 1 4 6 4 1 1 5 10 10 5 1 Zum markierten Element gelangt man, wenn man 3 mal den linken und 2 den rechten Pfeil in beliebiger Reihenfolge verwendet. Allgemein: Es gibt Möglichkeiten von n Abzweigungen k mal die linke Abzweigung zu nehmen. 25.11.2015

Binomialverteilung 1 Rekursionsformel oder 1 1 1 2 1 1 3 3 1 1 4 6 4 1 5 10 10 5 1 Zum markierten Element gelangt man, wenn man 3 mal den linken und 2 den rechten Pfeil in beliebiger Reihenfolge verwendet. Allgemein: Es gibt Möglichkeiten von n Abzweigungen k mal die linke Abzweigung zu nehmen. 25.11.2015

Binomialverteilung 1 Rekursionsformel oder 1 1 1 2 1 1 3 3 1 1 4 6 4 1 5 10 10 5 1 Binomialverteilung: Wahrscheinlichkeit, dass von n voneinander unabhängigen Experimenten x Erfolge eintreffen Wahrscheinlichkeit für einen Erfolg Wahrscheinlichkeit für einen Misserfolg Dichte der Binomialverteilung 25.11.2015

Binomialverteilung Dichte der Binomialverteilung für und Beispiel: Wie groß ist die Wahrscheinlichkeit, bei 3-maligem Würfeln keinen / genau 1 / 2 / 3 Sechser zu erzielen? 25.11.2015

Binomialverteilung Dichte der Binomialverteilung für und Bedingungen für die Dichte: und Binomische Formel: 25.11.2015

Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 zu Würfeln Binomialverteilung Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 zu Würfeln 25.11.2015

Binomialverteilung Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 oder 2 zu Würfeln 25.11.2015

Binomialverteilung Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1, 2 oder 3 zu Würfeln 25.11.2015

Binomialverteilung Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1, 2, 3 oder 4 zu Würfeln 25.11.2015

Binomialverteilung Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1, 2, 3, 4 oder 5 zu Würfeln 25.11.2015

Erwartungswert und Varianz

Erwartungswert und Varianz Konkrete Messreihe Theoretischer Wert Mittelwert Gewichteter Mittelwert mit Erwartungswert Schätzung der Varianz Varianz (Beweis: Tafel) 25.11.2015

Binomialverteilung Dichte der Binomialverteilung für und Erwarungswert: Erwarungswert Binomische Formel: 25.11.2015

Binomialverteilung Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 oder 2 zu Würfeln Erwartungswert mit 25.11.2015

Binomialverteilung Dichte der Binomialverteilung für und Erwarungswert: Varianz: 25.11.2015

Binomialverteilung Varianz: Binomische Formel: 25.11.2015

Binomialverteilung Dichte der Binomialverteilung für und Erwarungswert: Varianz: 25.11.2015

Binomialverteilung Wahrscheinlichkeit bei 60-maligen Würfeln x mal eine 1 oder 2 zu Würfeln Standardabweichung mit 25.11.2015

Binomialverteilung Definition: Die diskrete Zufallsvariable X bezeichnet man als binomialverteilt mit den Parametern n und p, abgekürzt geschrieben 𝑋~𝐵(𝑛,𝑝), wenn ihre Dichte 𝑓(𝑥) gegeben ist durch für und Erwarungswert: Varianz: 25.11.2015

Dichtefunktion und Verteilungsfunktion

Dichtefunktion und Verteilungsfunktion cummulative density function (cdf) Dichtefunktion, probability density function (pdf) 25.11.2015

Diskrete Zufallsvariable Eine diskrete Zufallsvariable X nimmt endlich viele oder abzählbar unendlich viele Werte an. Werte: Wahrscheinlichkeit: kontinuierliche Zufallsvariable X Idee: Anzahl der Ereignisse n gegen unendlich, Wert des einzelnen Ereignisses gegen null. 25.11.2015

Binomialverteilung Dichtefunktion, probability density function (pdf) Verteilungsfunktion, cummulative density function (cdf) 25.11.2015

Binomialverteilung Dichtefunktion, probability density function (pdf) Verteilungsfunktion, cummulative density function (cdf) 25.11.2015

Binomialverteilung Dichtefunktion, probability density function (pdf) Verteilungsfunktion, cummulative density function (cdf) 25.11.2015

Binomialverteilung Dichtefunktion, probability density function (pdf) Verteilungsfunktion, cummulative density function (cdf) 25.11.2015

Binomialverteilung Dichtefunktion, probability density function (pdf) Verteilungsfunktion, cummulative density function (cdf) Wahrscheinlichkeit eines Einzelereignisses geht gegen null Verteilungsfunktion einer stetigen Zufallsvariable 25.11.2015

Stetige Zufallsvariable Eine stetige Zufallsvariable X hat eine nicht-negative integrierbare Dichtefunktion mit wobei die Verteilungsfunktion von X ist Dichtefunktion Wahrscheinlichkeit 25.11.2015

Stetige Zufallsvariable Eine stetige Zufallsvariable X hat eine nicht-negative integrierbare Dichtefunktion mit wobei die Verteilungsfunktion von X ist Dichtefunktion Wahrscheinlichkeit 25.11.2015 Pail

Dichte und Verteilungsfunktion Dichtefunktion Pail 25.11.2015

Erwartungswert und Varianz Erwartungswert (diskret) Erwartungswert (stetig) Varianz (diskret) Varianz (stetig) Erwartungswertoperator 25.11.2015

Kontinuierliche Verteilungen: Normalverteilung

Normalverteilung Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇,𝜎 2 ), wenn ihre Dichte 𝑓(𝑥) gegeben ist durch für 25.11.2015

Normalverteilung Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇,𝜎 2 ), wenn ihre Dichte 𝑓(𝑥) gegeben ist durch für Bedingungen für die Dichte: und 25.11.2015

Normalverteilung Substitution Polarkoordinaten: Flächenelement: 25.11.2015

Normalverteilung Erwartungswert: Substitution 25.11.2015

Normalverteilung Varianz: 25.11.2015

Normalverteilung Definition: Die Zufallsvariable X bezeichnet man als normalverteilt mit den Parametern 𝜇 und 𝜎 2 , abgekürzt geschrieben 𝑋~𝑁(𝜇,𝜎 2 ), wenn ihre Dichte 𝑓(𝑥) gegeben ist durch für Verteilungsfunktion: Erwartungswert: Varianz: 25.11.2015

Standardisierte Normalverteilung Transformation: Zentrierung der Verteilung (Verschiebung entlang der x-Achse) Normierung der Verteilung (Division durch die Standardabweichung) Dichte der standardisierten Normalverteilung Verteilungsfunktion 25.11.2015

Tabelle 25.11.2015

3-Sigma Regel Transformation Pail 25.11.2015

Mehrdimensionale Zufallsvariablen

Zweidimensionale Zufallsverteilung Zweidimensionale stetige Zufallsvariable Wahrscheinlichkeit (Verteilungsfunktion) Dichtefunktion Pail 25.11.2015

Zweidimensionale Zufallsverteilung Zweidimensionale stetige Zufallsvariable Wahrscheinlichkeit (Verteilungsfunktion) Pail Randverteilung 25.11.2015

Bedingte Wahrscheinlichkeit Definition: Als bedingte Wahrscheinlichkeit P(A|B) des Ereignisses A unter der Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis 15 rote, 5 blaue Kugeln Wie groß ist die Wahrscheinlichkeit, nach einer roten ein blaue Kugel ohne zurücklegen zu ziehen? rote Kugel: blaue Kugel: 25.11.2015

Bedingte Wahrscheinlichkeit Definition: Als bedingte Wahrscheinlichkeit P(A|B) des Ereignisses A unter der Bedingung, dass B eingetroffen ist, bezeichnet man das Verhältnis Bedingte Dichte mit der Randverteilung Sind die Ereignisse A und B voneinander unabhängig, gilt: Zwei Zufallsvariablen sind genau dann voneinander unabhängig, falls gilt 25.11.2015

Mehrdimensionale Zufallsverteilung Mehrdimensionale stetige Zufallsvariable Wahrscheinlichkeit (Verteilungsfunktion) Dichtefunktion Pail 25.11.2015

Erwartungswert & Varianz/Kovarianz (Tafel)

Zufallsvektor

Varianz / Kovarianz Zufallsvektor Erwartungswert Varianz-Kovarianzmatrix Varianz Kovarianz Kovarianz Operator 25.11.2015

n x m konstante Koeffizientenmatrix Varianz / Kovarianz Lineare Transformation n x 1 Zufallsvektor m x 1 Zufallsvektor m x 1 konstanter Vektor n x m konstante Koeffizientenmatrix Erwartungswert Kovarianzmatrix 25.11.2015

Kovarianzfortpflanzung 25.11.2015

Kovarianzfortpflanzung Beispiel: Differenz zweier Streckenmessungen mit Varianz der Differenz 25.11.2015

Kovarianzfortpflanzung Beispiel: Mittelwert mit Bei gleicher Varianz 25.11.2015

Polares Anhängen Polares Anhängen Gemessen Polares Anhängen mit Lineare Transformation? Kovarianzmatrix 25.11.2015

Polares Anhängen Gemessen: Kovarianzmatrix: Berechnet: Jakobimatrix Ergebnis 25.11.2015

Drehung des Koordinatensystems

Polares Anhängen Polares Anhängen 25.11.2015

Drehmatrizen Drehmatrix Inverse Drehung Allgemein: Orthogonale Matrix (Rotation mit evtl. Spiegelung) 25.11.2015

Polares Anhängen Polares Anhängen Drehung um Winkel t Kovarianzmatrix mit 25.11.2015

Polares Anhängen Drehung um Winkel t Nebenrechnung mit Kovarianzmatrix 25.11.2015

Polares Anhängen Polares Anhängen Gemessen Polares Anhängen mit Durch Drehung des Koordinatensystems kann man unkorrelierte Zufallsvariablen erhalten! Kovarianzmatrix 25.11.2015