STATISIK LV Nr.: 1852 WS 2005/06 10. Jänner 2006.

Präsentation zum Thema: "STATISIK LV Nr.: 1852 WS 2005/06 10. Jänner 2006."—  Präsentation transkript:

1 STATISIK LV Nr.: 1852 WS 2005/06 10. Jänner 2006

2 Inhalt Wiederholung Nichtparametrische Tests Varianzanalyse
Einfache Varianzanalyse Zweifache Varianzanalyse Nichtparametrische Varianzanalyse

3 Wiederholung Statistische Tests (bisher):
Verteilungsannahme (Normalverteilung) Mittelwertstest (t-Test) Anteilstest Test der Varianz

4 Nichtparametrische Tests
Nichtparametrische Tests - v.a. wenn Annahme der Normalverteilung nicht erfüllt ist Rangtests für Lageparameter Zeichentest Wilcoxon Vorzeichenrangtest für das Symmetriezentrum einer Verteilung Verteilungsfreie Lokationsvergleiche Wilcoxon Rangsummentest oder Mann-Whitney U Test

5 Rangtests für Lageparameter
Zeichentest (Ordinalskala ausreichend) Annahme: unabhängige Beobachtungen x1, ..., xn stammen aus einer Grundgesamtheit mit stetiger Verteilungsfunktion F. Test für den Median ξ0,5 der Grundgesamtheit Einseitige Hypothesen: H0: ξ0,5  ξ0 gegen H1: ξ0,5 > ξ0 H0: ξ0,5  ξ0 gegen H1: ξ0,5 < ξ0 Zweiseitige Hypothese: H0: ξ0,5 = ξ0 gegen H1: ξ0,5  ξ0

6 Rangtests für Lageparameter
Vorgehensweise: Transformation der Beobachtungswerte: xi‘ = xi - ξ0 Bestimmung von yi yi = 1 falls xi‘ > 0, yi = 0 falls xi‘ < 0, Bindungen: yi = ½ falls xi‘ = 0

7 Rangtests für Lageparameter
Teststatistik: Unter H0 ist T ~ B(n, ½) Approximation durch N(0,1): Entscheidung: Vergleich von Z mit kritischen Werten der N(0,1) Verteilung

8 Rangtests für Lageparameter
Beispiel für Zeichentest (Hartung, S. 243): Alter von Frauen bei der Geburt des ersten Kindes. H0: ξ0,5  25 gegen H1: ξ0,5 > 25. Zufällige Auswahl von n = 36 Müttern. i Alter xi xi‘ yi 1 30,6 5,6 2 17,8 -7,2 : 35 20 -5 36 23,5 -1,5

9 Rangtests für Lageparameter
Beispiel Approximation durch N-Vt Entscheidung (bei α=0,05): Z < 1,645 Lehne H0: ξ0,5  25 nicht ab.

10 Rangtests für Lageparameter
Wilcoxon Vorzeichenrangtest für das Symmetriezentrum einer Grundgesamtheit Basiert auf Rangzahlen der Beobachtungen Annahme: n unabhängige Beobachtungen (x1, ..., xn) stammen aus einer Grundgesamtheit mit Verteilungsfunktion F Frage: Ist die Verteilung symmetrisch um einen Wert ξ0, d.h. gilt F(ξ0-y) = 1-F(ξ0+y)?

11 Rangtests für Lageparameter

12 Rangtests für Lageparameter
Wilcoxon Vorzeichenrangtest für das Symmetriezentrum ξ0 einer Grundgesamtheit Einseitige Hypothesen: H0: F symmetrisch um ξ  ξ0 H0: F symmetrisch um ξ  ξ0 Zweiseitige Hypothese: H0: F symmetrisch um ξ = ξ0

13 Rangtests für Lageparameter
Vorgehensweise: Transformation der Beobachtungswerte: xi‘ = xi - ξ0 Ohne Berücksichtigung der Vorzeichen der xi‘ Rangzahlen Ri zuweisen (1 für kleinsten Wert, ..., n für größten Wert). Den Rangzahlen werden die Vorzeichen der zugehörigen xi‘ Werte zugewiesen => Rangstatistik R̃i

14 Rangtests für Lageparameter
Teststatistik: mit ci = 0 falls R̃i < 0 und ci = 1 falls R̃i > 0 Entscheidung: Vergleich von T+ mit kritischen Werten wn,α des Vorzeichenrang-test von Wilcoxon (z.B. Hartung S. 245)

15 Rangtests für Lageparameter
Approximation durch N(0,1) Verteilung: Teststatistik T* (keine Bindungen): mit E T+ = n(n+1) / 4 und Var T+ = n(n+1)(2n+1) / 24 (Beim Auftreten von Bindungen: T* laut Hartung, S. 246) Vergleich von T* mit kritischen Werten der N(0,1) Verteilung

16 Rangtests für Lageparameter
Beispiel Wilcoxon Vorzeichenrangtest Psychologischer Test, Bewertung durch Punkte xi H0: F symmetrisch um ξ = ξ0 = 61, α = 0,05 Teststatistik: ci = 0 falls R̃i < 0 und ci = 1 falls R̃i > 0

17 Rangtests für Lageparameter
Beispiel: T+ = 1·10,5+0·(-3)+1·3+0·(-7)+1·7+1·9+0·(-3)+1·5+1·1 +1·10,5+1·7 = 53 i xi xi‘ = xi- ξ0 Ri R̃i 1 72 11 10,5 2 55 -6 3 -3 67 6 4 53 -8 7 -7 5 69 8 71 10 9 68 65

18 Rangtests für Lageparameter
Beispiel: Kritische Werte aus Tabelle: wn;α/2 = w11;0,025 = 11 und wn;1-α/2 = w11;0,975 = 54 Entscheidung: w11;0,025 = 11 < T+ = 53 < 54 = w11;0,975 Daher: lehne H0 nicht ab, F ist symmetrisch um ξ0 = 61.

19 Vt.-freie Lokationsvergleiche
Wilcoxon Rangsummentest oder Mann-Whitney U Test Annahme: zwei unabhängige Messreihen, zugrundeliegenden Verteilungsfunktionen sind stetig und vergleichbar (d.h. sie schneiden einander nicht). Frage: Besteht ein Unterschied in den Verteilungen? Sind z.B. die Werte der einen Messreihe „im Durchschnitt größer“ als die der anderen?

20 Vt.-freie Lokationsvergleiche

21 Vt.-freie Lokationsvergleiche
Einseitige Hypothesen: H0: F1(x)  F2(x) gegen H1: F1(x)  F2(x) und für mind. ein x gilt: F1(x) < F2(x) H0: F1(x)  F2(x) gegen H1: F1(x)  F2(x) und für mind. ein x gilt: F1(x) > F2(x) Zweiseitig Hypothese: H0: F1(x) = F2(x) gegen H1: F1(x)  F2(x)

22 Vt.-freie Lokationsvergleiche
Vorgehensweise: Gemeinsame Rangzahlen der beiden Messreihen bilden: r1, ..., rn1, rn1+1, ..., rn1+n2 Teststatistik: Kritische Werte des Wilcoxon-Rangsummen-Tests aus Tabelle (siehe z.B. Hartung 518)

23 Vt.-freie Lokationsvergleiche
Entscheidung: H0: F1(x)  F2(x), H0 verwerfen falls Wn1,n2 > Wn1;n2;1-α H0: F1(x)  F2(x), H0 verwerfen falls Wn1,n2 < Wn1;n2;α Zweiseitig Hypothese: H0: F1(x) = F2(x) H0 verwerfen falls Wn1,n2 < Wn1;n2;α/2 oder Wn1,n2 > Wn1;n2;1-α/2

24 Vt.-freie Lokationsvergleiche
Beispiel: Behandlung von Pilzen mit Vitamin B1. Führt diese Behandlung zu (signifikant) höherem Gewicht? Behand-lung Rangz. Kontrolle 27 19 26,5 18 7 17 6 34 22,5 22 14 14,5 5 18,5 8 20,5 12 24,5 13,5 3 9,5 1 29,5 21 12,5 2 4 20 10,5 35,5 24 23 15 28 9 16 13

25 Vt.-freie Lokationsvergleiche
Beispiel: H0: FB(x) ≥ FK(x) bzw. XB ist stochastisch kleiner als XK, α = 0,05. Teststatistik: Summe der Ranzahlen der ersten Messreihe (Behandlungsgruppe): Wn1,n2 = 220. Kritischer Wert: wn1;n2;0,95 = 191 Entscheidung: 220 > 191 => H0 ablehnen. D.h. die Behandlung führt zu einem signifikant höheren Gewicht.

26 Varianzanalyse Varianzanalyse od. ANOVA
Frage: Hat ein Faktor Einfluss auf ein Merkmal? Faktor: Nominal skalierte Größe, Faktorausprägungen = Ebenen oder Stufen Merkmal (durch Faktor beeinflusst): Metrische Größe

27 Varianzanalyse Varianzanalyse Einfache Varianzanalyse: Ein Faktor
Zweifache Varianzanalyse: Zwei Faktoren …

28 Varianzanalyse Test, für arithmetische Mittel von zwei oder mehr Grundgesamtheiten. Test, ob die Differenz der arithmetischen Mittel von zwei oder mehr als zwei Grundgesamtheiten signifikant von Null verschieden ist.

29 Varianzanalyse Modellannahmen der Varinazanalyse:
Unabhängigkeit der Stichproben (i=1,…,r) Normalverteilung der Merkmale mit µi und σi² Varianzhomogenität (Homoskedastizität), d.h. σi² = σ²

30 Varianzanalyse Nullhypothese: Alle Gruppen haben den gleichen Mittelwert µ H0: µ1 = µ2 = … = µ Alternativhypothese: Nicht alle Gruppen haben den gleichen Mittelwert µ H1: mindestens zwei µi sind ungleich

31 Varianzanalyse Frage: Beeinflusst der Faktor (nominal-skalierte Größe) das Merkmal (metrisch-skalierte Größe)? Unter H0: µi = µ für alle i (i = 1,…,r Faktorstufen). Abweichung, die dem Faktor zuzuschreiben sind: αi = µi - µ (i = 1,…,r) heißen wahre Effekte auf der i-ten Ebene.

32 Varianzanalyse Modell der einfachen Varianzanalyse: xij = µ + αi + eij
µ … Gesamtmittelwert αi … Effekt auf der i-ten Ebene eij … Versuchsfehler = die Abweichung eines zufällig aus der i-ten Ebene des Faktors herausgegriffenen Beobachtungswertes xik vom Mittelwert µi dieser Ebene. eij = xij – µi = xij – (µ + αi)

33 Varianzanalyse Beispiel: Zugfestigkeit von r = 3 Drahtsorten überprüfen, je Sorte 6 Proben, unabhängig voneinander und N(µi,σ²)-vt. Frage: Bestehen signifikante Unterschiede in der Zugfestigkeit? i Drahtsorte j 1 2 3 9 7,3 18 15,4 15,6 9,6 8,2 14,2 11,5 4 3,9 13 19,4 5 6,8 17,1 6 10,8 9,7 14,4

34 Varianzanalyse Vorgehensweise:
Gesamtmittelwert aller Faktorstufen und Mittelwerte der Faktorstufen bestimmen Bestimmung der Abweichungen Zerlegung der Abweichungsquadratsumme Teststatistik und Testverteilung bestimmen Entscheidung, Interpretation

35 Varianzanalyse Gesamtmittelwert über alle Faktorstufen r
Mittelwerte der r Faktorstufen

36 Varianzanalyse Beispiel: Drahtsorten i Drahtsorte j 1 2 3 x.. 9 7,3
Drahtsorte j 1 2 3 x.. 9 7,3 18 15,4 15,6 9,6 8,2 14,2 11,5 4 3,9 13 19,4 5 6,8 17,1 6 10,8 9,7 14,4 xi. 9,1 11,1 15 11,7

37 Varianzanalyse Abweichungen: Quadratsumme der Abweichungen (Sum of Squares) Abweichungen der Beobachtungen vom Gesamtmittelwert. Summe der Quadratischen Abweichungen Bezeichnungen: SST (Total), SSG (Gesamt)

38 Varianzanalyse Sum of Squares:
Abweichungen der Beobachtungen der einzelnen Messreihen vom Mittelwert der jeweiligen Messreihe. Summe der Quadratischen Abweichungen des Restes, Maß für die nicht durch den Faktor beeinflusste Restvariabilität Bezeichnungen: SSW (Within), SSE (Error), SSR (Residual).

39 Varianzanalyse Sum of Squares:
Abweichungen der Mittelwerte der einzelnen Messreihen vom Gesamtmittelwert. Mit Stichprobengröße multiplizierte Summe der Quadratischen Abweichungen der Stichprobenmittelwerte vom Gesamtmittelwert, also der beobachteten Effekte des Faktors. Bezeichnungen: SSB (Between), SSE (Explained), SSM (Model), SST (Treatment),

40 Varianzanalyse Quadratsummenzerlegung: SST = SSB + SSW
Interpretation: Gesamtvarianz (SST) setzt sich aus der Variation zwischen den Messreihen (SSB) und der Variation innerhalb der Messreihen (SSW) zusammen.

41 Varianzanalyse Idee für Test:
Vergleich der Variation zwischen den Messreihen mit der Variation innerhalb der Messreihen Ist die Variation zwischen den Messreihen größer als jene innerhalb der Messreihen, schließe auf Unterschied zwischen den Messreihen (Faktoreffekt).

42 Varianzanalyse Teststatistik – Idee:
Aus den Beobachtungswerten werden zwei voneinander unabhängige Schätzwerte für sW² und sB² für die Varianzen der Beobachtungswerte innerhalb und zwischen den Stichproben bestimmt. Liegen keine wahren Effekte vor (Gültigkeit von H0), sind sW² und sB² (bis auf zufällige Abweichungen) gleich. Bei Vorhandensein von wahren Effekten (H1) ist sB² systematisch größer als sW².

43 Varianzanalyse Erwartungstreuer Schätzer für die Varianz innerhalb der Messreihen (Restvarianz): Erwartungstreuer Schätzer für die Varianz zwischen den Messreihen (Faktoreffekt)

44 Varianzanalyse Mittlere Quadratsummen (MSS = Mean Sum of Squares):
Quadratsummen dividiert durch entsprechende Freiheitsgrade MSB und MSW sind erwartungstreue Schätzer der Varianz zwischen- und innerhalb der Messreihen.

45 Varianzanalyse Varianzanalysetafel (r Messreihen): Streuungs-ursache
Freiheits-grade (DF) Quadrat-summe (SS) Mittlere Quadratsumme (MS) Unterschied zw Messreihen r-1 SSB (Between) MSB = SSB / (r-1) Zufälliger Fehler N-r SSW (Within) MSW = SSW / (N-r) Gesamt N-1 SST (Total)

46 Varianzanalyse Teststatistik: F = MSB / MSW F ~ F(r-1),(N-r)
Entscheidung: Ist F ≤ Fc, lehne H0 nicht ab (Fc = kritischer Wert der F-Verteilung mit (r-1) und (N-r) Freiheitsgraden).

47 Varianzanalyse Beispiel: Drahtsorten
Quadratsummenzerlegung: SST = SSB + SSW 324,62 = 108, ,58 Mittlere Quadratsummen: MSB = 108,04 / (3-1) = 54,02 MSW = 216,58 / (18-3) = 14,44 Teststatistik: F = MSB / MSW = 3,74 Kritischer Wert der F2;15 Vt. 3,68 Entscheidung: 3,74 > 3,68 => H0 ablehnen, d.h. es besteht ein signifikanter Unterschied zw. den Sorten

48 Varianzanalyse Zweifache Varianzanalyse: Unterscheidung:
2 Faktoren (A und B, wobei r Faktorstufen bei A und p Faktorstufen bei B) 1 metrische Variable Unterscheidung: Modell ohne Wechselwirkungen zw. den Faktoren Modell mit Wechselwirkungen zw. den Faktoren

49 Varianzanalyse Modell ohne Wechselwirkungen zw. den Faktoren
xijk = µ + αi + βj + eijk (für i=1,…,r, j=1,…,p, k=1,…,n) µ gemeinsamer Mittelwert α, β Faktoreffekte eijk zufällige Fehler

50 Varianzanalyse Mittelwerte: Gesamt Faktor A Faktor B

51 Varianzanalyse Schätzer für Gesamtmittel und Effekte Gesamtmittel
Effekt von Faktor A Effekt von Faktor B

52 Varianzanalyse Quadratsummen SSR = SST – SSE(A) – SSE(B)

53 Varianzanalyse Quadratsummenzerlegung Mittlere Quadratsummen:
SST = SSE(A) + SSE(B) + SSR Mittlere Quadratsummen: MSE(A) = SSE(A) / (r-1) MSE(B) = SSE(B) / (p-1) MSR = SSR / (rpn-r-p+1)

54 Varianzanalyse Prüfgrößen und kritische Werte: Faktor A: Faktor B:
F(A) = MSE(A) / MSR Fr-1,(nrp-r-p+1);1-α Faktor B: F(B) = MSE(B) / MSR Fp-1,(nrp-r-p+1);1-α

55 Varianzanalyse Beispiel: 2 Faktoren (Erreger, Antibiotikum)
Erreger i (A) Antibiotikum j (B) 1 2 3 Mittelwerte Schätzer ai k 38 40 35 41 39 38,5 0,667 42 33 45 34 37,7 -0,167 36 37,3 -0,500 39,8 38,2 35,5 37,8 Schätzer bj 2,000 0,333 -2,333

56 Varianzanalyse Modell mit Wechselwirkungen zw. den Faktoren
xijk = µ + αi + βj + (αβ)ij + eijk (für i=1,…,r, j=1,…,p, k=1,…,n) µ gemeinsamer Mittelwert α, β Faktoreffekte αβ Wechselwirkung eijk zufällige Fehler

57 Varianzanalyse Mittelwerte: Gesamt Faktor A Faktor B Wechselwirkung

58 Varianzanalyse Gesamtmittel und Effekte Gesamtmittel
Effekt von Faktor A Effekt von Faktor B Effekt der Wechselwirkung

59 Varianzanalyse Quadratsummen SSR = SST – SSE(A) – SSE(B) – SSE(AB)

60 Varianzanalyse Quadratsummenzerlegung Mittlere Quadratsummen:
SST = SSE(A) + SSE(B) + SSE(AB) + SSR Mittlere Quadratsummen: MSE(A) = SSE(A) / (r-1) MSE(B) = SSE(B) / (p-1) MSE(AB) = SSE(AB) / (p-1)(r-1) MSR = SSR / (rpn-r-p+1)

61 Varianzanalyse Prüfgrößen und kritische Werte: Faktor A: Faktor B:
F(A) = MSE(A) / MSR Fr-1, pr(n-1); 1-α Faktor B: F(B) = MSE(B) / MSR Fp-1, pr(n-1); 1-α Wechselwirkung: F(AB) = MSE(AB) / MSR F(p-1)(r-1), pr(n-1); 1-α

62 Antibiotikum j (Faktor B)
Varianzanalyse Beispiel: 2 Faktoren + Wechselwirkung Erreger i Antibiotikum j (Faktor B) (Faktor A) 1 2 3 `xi.. ai k xi1k `xi1. (ab)i1 xi2k `xi2. (ab)i2 xi3k `xi3. (ab)i3 38 36,5 -4,000 40 40,5 1,667 38,5 2,333 35 41 39 0,667 42 43,5 3,833 36 -2,000 33 33,5 -1,833 45 34 37,7 -0,167 39,5 0,167 0,333 34,5 -0,500 37,3 `x.j. 39,8 38,2 35,5 37,8 bj 2,000 -2,333

63 Varianzanalyse Beispiel: Varianzanalysetafel
Faktor Erreger: kein Effekt Faktor Antibiotikum: Effekt Interaktion: Effekt (impliziert, dass auch Faktor Erreger eine Wirkung hat). Streuungs-ursache Freiheits-grade Quadrat-summe Mittlere Quadrats. Test-statistik Kritischer Wert Erreger 2 4,33 2,16667 0,52 4,26 Antibiotikum 57,33 28,6667 6,88 Interaktion 4 93,33 23,3333 5,60 3,63 Fehler 9 37,50 4,16667 Total 17 192,5

64 Varianzanalyse

65 Nichtparametrische ANOVA
Kruskal-Wallis Test Unterscheiden sich die Mittelwerte von p Messreihen (n1, …, np)? Voraussetzungen: Stetige Verteilung der Messreihen Mindestens Ordinalskala Setzt weder Normalverteilung, noch Varianzhomogenität voraus. Hypothese: H0: Mittelwerte der p Messreihen sind gleich H1: Mittelwerte unterscheiden sich

66 Nichtparametrische ANOVA
Vorgehensweise: N Messwerten X11, …, Xpnp werden Rangzahlen rij zugewiesen. Summe der Ränge der einzelnen Messreihen berechnen: Bindungen (mehrere Messwerte sind gleich): Mittelwert der Ränge

67 Nichtparametrische ANOVA
Prüfgröße: g … Anzahl der verschiedenen Messwerte t … wie oft tritt ein Messwert auf Treten keine Bindungen auf, ist B = 1

68 Nichtparametrische ANOVA
Entscheidung: H0 ablehnen, wenn H > hp(n1,…,np);1-α h … kritische Werte (Tabelle, z.B. Hartung S. 615) Approximation durch χ²p-1,1-α Verteilung: H0 ablehnen, wenn H > χ²p-1,1-α (Quantile der χ² Verteilung)