Einfaktorielle Varianzanalyse (ANOVA)

Präsentation zum Thema: "Einfaktorielle Varianzanalyse (ANOVA)"—  Präsentation transkript:

1 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 1

2 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Vergleich von Mittelwerten Warum kein t-Test?! Einfaktorielle ANOVA mit zwei Gruppen entspricht den t-Test! strukturell bildhaft 5 12 7 3 8 4 10 6 13 M=5 M=10 05_anova1 2

3 Einfaktorielle Varianzanalyse (ANOVA)
t-Test: ANOVA (F-Test): Beide Tests sind äqui-valent, d.h. sie liefern den gleichen p-Wert. Zudem gilt: F = t² = (-3.73)² = 13.89 05_anova1 3

4 Alpha-Fehler Kumulierung
Mehrere Gruppen: Wenn drei Gruppen verglichen werden sollen, sind verschiedene Vergleiche möglich: (1) struk vs. bild: t(8) = -3,73; p = .006 (2) struk vs. emo: t(8) = -9.04; p = .000 (3) bild vs. emo: t(8) = -1.69; p = .129 Frage: Hängt die Erinnerungsleistung von der Lernbedingung ab? 05_anova1 4

5 Alpha-Fehler Kumulierung
Mehrere Gruppen: Bei jedem der 3 Vergleiche besteht die Gefahr fälschlicherweise einen signifikanten Effekt zu finden (α = 0.05). Die Wahrscheinlichkeit, bei keinem der Vergleiche einen Fehler zu machen beträgt nach dem Multiplikationstheorem: p(kein Fehler) = 0.95 ∙ 0.95 ∙ 0.95 = 0.86 Die Wahrscheinlichkeit (mindestens) einen Fehler zu machen beträgt damit: p(Fehler) = 1 - p(kein Fehler) = 1 – 0.86 = 0.14 p(Fehler) = 1 - (1- α)³ Dies wird als α-Fehler-Kumulierung (bzw. α-Fehler-Inflation) bezeichnet. 05_anova1 5

6 Alpha-Fehler Kumulierung
Zwei-faktorielle Versuchspläne: Bei 6 Gruppen gibt es bereits 15 Einzelvergleiche… strukturell bildhaft emotional männlich 5 12 7 11 3 8 4 10 6 13 weiblich 9 14 p(Fehler) = 1 - (.95)15 = = .54 05_anova1 6

7 Alpha-Fehler Kumulierung
Definition Der kumulierte α-Fehler gibt die Wahrscheinlichkeit an, mindestens einen statistisch Bedeutsamen Gruppen-unterschied zu finden, obwohl in der Population alle Gruppen gleich sind. Gruppen Vergleiche Kumulierter α-Fehler 3 0.143 4 6 0.264 5 10 0.401 15 0.537 7 21 0.659 8 28 0.762 9 36 0.842 45 0.901 11 55 0.940 12 66 0.966 13 78 0.982 14 91 0.991 105 0.995 05_anova1 7

8 Alpha-Fehler Kumulierung
Bonferroni-Korrektur Mit der Bonferoni-Korrektur wird das α-Fehler-Niveau für jeden einzelnen Test soweit herabgesetzt, dass der kumulierte Fehler nur noch .05 beträgt. Beispiel: 6 Gruppen  15 Tests  αadj =.05 / 15 = .003 Nachteil: Viele Gruppen  sehr niedriges Alpha-Niveau bei den einzelnen Test  geringe Power (großer β-Fehler) Besser: Berechnung einer Varianzanalyse (Ein Test für alle Mittelwerte!) 05_anova1 8

9 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 9

10 Hypothesen der Varianzanalyse
Varianzanalyse für Mittelwertsvergleiche? H0: Alle Mittelwerte sind gleich: μ1 = μ2 = … = μp  μi = μj (für alle i,j) bzw. H0: Alle Effekte sind Null H0: α1 = α2 = … = αp = 0  αi = 0 (für alle i) H0: Die Varianz der Effekte ist Null H0: σ²α = 0 oder σ²Effekt=0 05_anova1 10

11 Hypothesen der Varianzanalyse
Varianzanalyse für Mittelwertsvergleiche? H1: Mindestens zwei Mittelwerte sind verschieden μi ≠ μj (für mind. ein Paar i, j) bzw. H1: Mindestens ein Effekt ist ungleich Null αi ≠ 0 (für mindestens ein i) H1: Varianz der Effekte ist größer als Null σ²α > 0 oder σ²Effekt>0  globale (ungerichtete) Alternativhypothese 05_anova1 11

12 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 12

13 Strukturgleichung Nach dem Allgemeinen Linearen Modell kann der Wert der AV für Vp i in der Bedingung j geschätzt werden als: Wobei gilt: Und folglich: 05_anova1 13

14 Eigenschaften der Strukturgleichung
Es gilt wiederum die Bedingung der kleinsten Quadrate: Der Mittelwert der Fehler (ei,j) ist Null: Der Mittelwert der Effekte (aj) ist Null (ohne a0): 05_anova1 14

15 Designmatrix: Dummy- und Effektkodierung
Y = X ∙ a + e AV Designmatrix (Indikator-variablen) Effekte Fehler 05_anova1 15

16 Designmatrix: Dummy- und Effektkodierung
Die Varianzanalyse verwendet jedoch nur 2 Variablen (k-1), um die Zugehörigkeit zu den 3 Gruppen zu kodieren. 05_anova1 16

17 Designmatrix: Dummykodierung
Nachteil: Der Effekt für Gruppe 3 kann nicht mehr angegeben werden! 05_anova1 17

18 Designmatrix: Effektkodierung
05_anova1 18

19 Bei der Dummykodierung: yij=a0+eij
Je nachdem, ob die Dummycodierung oder die Effektkodierung gewählt wird, ergibt sich eine unterschiedliche Strukturgleichung für „letzte“ Gruppe. Bei der Dummykodierung: yij=a0+eij Annahme: kein Effekt in Gruppe j (Kontrollgruppe) Bei der Effektkodierung: yij=a0+aj+eij Annahme: Effekt in Gruppe j (z.B. Placebo) 05_anova1 19

20 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 20

21 Quadratsumme Freiheitsgrade
Quadratsummen Quadratsummen werden zur Berechnung der Varianz verwendet: Quadratsumme Freiheitsgrade 05_anova1 21

22 Freiheitsgrade oder „degrees of freedom“
Quadratsummen Die Varianz entspricht der „mittleren Quadratsummen“ (Mean Sum of Squares, MS) „Quadratsumme“ (QS) oder „Sum of Squares“ (SS) Freiheitsgrade oder „degrees of freedom“ 05_anova1 22

23 Beispiel: Quadratsumme
strukturell bildhaft y11=5 y12=12 y21=7 y22=7 y31=3 y32=8 y41=4 y42=10 y51=6 y52=13 M1=5 M2=10 G=7.5 05_anova1 23

24 Beispiel: Freiheitsgrade der Quadratsumme
strukturell bildhaft y11=5 y12=12 y21=7 y22=7 y31=3 y32=8 y41=4 y42=10 y51=6 y52=13 M1=5 M2=10 G=7.5 05_anova1 24

25 Beispiel: Gesamtvarianz
strukturell bildhaft y11=5 y12=12 y21=7 y22=7 y31=3 y32=8 y41=4 y42=10 y51=6 y52=13 M1=5 M2=10 G=7.5 05_anova1 25

26 Quadratsummenzerlegung
Gesamt-Quadratsumme (QStotal, SStotal) Quadratsumme innerhalb der Gruppen (QSinnerhalb, QSFehler, SSwithin , SSError) Quadratsumme zwischen den Gruppen (QSzwischen, QSEffekt, SSbetween, SSTreatment) 05_anova1 26

27 Beispiel: Varianz innerhalb der Gruppen
strukturell bildhaft y11=5 y12=12 y21=7 y22=7 y31=3 y32=8 y41=4 y42=10 y51=6 y52=13 M1=5 M2=10 G=7.5 05_anova1 27

28 Beispiel: Varianz zwischen den Gruppen
strukturell bildhaft y11=5 y12=12 y21=7 y22=7 y31=3 y32=8 y41=4 y42=10 y51=6 y52=13 M1=5 M2=10 G=7.5 05_anova1 28

29 Beispiel: Zwischenergebnisse
Gesamtvarianz Varianz innerhalb Varianz zwischen 05_anova1 29

30 Beispiel: Zwischenergebnisse
Additivität Quadratsummen sind additiv! Freiheitsgrade sind additiv! Varianzen sind nicht additiv! 05_anova1 30

31 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 31

32 Gedankenexperiment 1: „Die H0 gilt in der Population“
Erwartungswerte Gedankenexperiment 1: „Die H0 gilt in der Population“ Gegeben seien zwei Populationsverteilungen, mit µ1 = µ2 = 7.5 und identischen Populationsvarianzen von σ1 = σ1 = 2.25 Aus jeder Population wird eine Stichprobe der Größe N=5 gezogen und es wird die Varianz innerhalb und die Varianz zwischen den Bedingungen berechnet Der Vorgang wird sehr oft wiederholt und der Mittelwert (Erwartungswert) der beiden Varianzen wird berechnet 05_anova1 32

33 Gedankenexperiment 1: „Die H0 gilt“
Gedankenexperiment 1: „Die H0 gilt in der Population“ Varianz innerhalb der Gruppen: „Varianz innerhalb“ schätzt die Fehlervarianz Varianz zwischen den Gruppen: „Varianz zwischen“ schätzt Effekt- und Fehlervarianz Unter der Nullhypothese ist Effektvarianz=0 05_anova1 33

34 Gedankenexperiment 1: „Die H0 gilt“
Gedankenexperiment 1: „Die H0 gilt in der Population“ Unter der Nullhypothese schätzt die Stichprobenvarianz innerhalb der Gruppen die Fehlervarianz in der Population Die Stichprobenvarianz zwischen den Gruppen schätzt ebenfalls die Fehlervarianz in der Population 05_anova1 34

35 Gedankenexperiment 2: „Die H1 gilt“
Gedankenexperiment 2: „Die H1 gilt in der Population“ Gegeben seien zwei Populationsverteilungen, mit µ1 = 5 und µ2 = 10 und identischen Populationsvarianzen von σ1 = σ2 = 2.25 Aus jeder Population wird eine Stichprobe der Größe N=5 gezogen und es wird die Varianz innerhalb und die Varianz zwischen den Bedingungen berechnet Der Vorgang wird sehr oft wiederholt und der Mittelwert (Erwartungswert) der beiden Varianzen berechnet 05_anova1 35

36 Gedankenexperiment 2: „Die H1 gilt“
Gedankenexperiment 2: „Die H1 gilt in der Population“ Varianz innerhalb der Gruppen: „Varianz innerhalb“ schätzt die Fehlervarianz Varianz zwischen den Gruppen: 05_anova1 36

37 Gedankenexperiment 2: „Die H1 gilt“
Gedankenexperiment 2: „Die H1 gilt in der Population“ Unter der Alternativhypothese schätzt die Stichprobenvarianz innerhalb der Gruppen die Fehlervarianz in der Population Die Stichprobenvarianz zwischen den Gruppen schätzt die Summe aus Effekt- und Fehlervarianz in der Population 05_anova1 37

38 Gedankenexperimente: Zwischenergebnisse
05_anova1 38

39 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 39

40 Der F-Test vergleicht zwei Varianzen:
Hypothesen: H0: Varianzen gleich groß  F ≤ 1 H1: Zählervarianz größer  F > 1 Wenn Femp > Fkrit wird die H0 verworfen Fkrit hängt ab von … dfZähler dfNenner α 05_anova1 40

41 Der F-Bruch für die einfaktorielle ANOVA
Der F-Test Der F-Bruch für die einfaktorielle ANOVA 05_anova1 41

42 Der F-Bruch für die einfaktorielle ANOVA
Der F-Test Der F-Bruch für die einfaktorielle ANOVA Interpretation des F-Wertes: F = 1  σbetween = 0  H0 annehmen F > 1  σbetween > 0  H0 verwerfen 05_anova1 42

43 Darstellung von F-Tests in Forschungsberichten:
Der F-Test Darstellung von F-Tests in Forschungsberichten: Signifikante Ergebnisse: „Es findet sich ein signifikanter Einfluss des Faktors Therapiemethode, F(2, 37) = 5.34; p < .05.“ „Es findet sich ein signifikanter Einfluss des Faktors Therapiemethode (F[2, 37] = 5.34; p < .01).“ Nicht-signifikante Ergebnisse: „Es findet sich kein signifikanter Einfluss des Faktors Therapiemethode, F(2, 37) = 1.44; n.s.“ „Es findet sich kein signifikanter Einfluss des Faktors Therapiemethode (F[2, 37] = 1.44; p =.25).“ „Es findet sich kein signifikanter Einfluss des Faktors Therapiemethode, F < 1.“ 05_anova1 43

44 Darstellung von F-Tests in Forschungsberichten:
Der F-Test Darstellung von F-Tests in Forschungsberichten: Die Angaben zum F-Test werden in der Regel am Ende des Satzes mit Komma getrennt (oder in Klammern) angegeben. Folgende Angaben müssen aufgeführt werden: F-Wert Zähler und Nennerfreiheitsgrade p-Wert (exakt oder Signifikanzniveau) Für F und p werden immer exakt zwei Nachkommastellen angegeben Ausnahmen: Bei nicht-signifikanten Ergebnissen darf die Angabe des p-Werts weggelassen werden. In diesem Fall wird einfach „n.s.“ für „nicht signifikant“ angehängt. Bei F<1 darf die Angabe der Freiheitsgrade und des p-Werts weggelassen werden. 05_anova1 44

45 Beispiel: Durchführung des F-Tests Gedächtnisexperiment
Beispiel: F-Test Beispiel: Durchführung des F-Tests Gedächtnisexperiment drei Gruppen, je n=5 UV: Instruktion Konsonanten zählen bildlich vorstellen Emotionalität beurteilen AV: Anzahl erinnerter Wörter 05_anova1 45

46 Schritte bei der Durchführung des F-Tests
Beispiel: F-Test Schritte bei der Durchführung des F-Tests Gruppen- und Gesamtmittelwerte bilden Quadratsummen berechnen Freiheitsgrade berechnen Mittlere Quadratsummen berechnen Empirischen F-Wert berechnen Vergleich mit kritischem F-Wert 05_anova1 46

47 1. Gruppen- und Gesamtmittelwerte bilden
strukturell bildhaft emotional y11=5 y12=12 y13=12 y21=7 y22=7 y23=11 y31=3 y32=8 y33=12 y41=4 y42=10 y43=12 y51=6 y52=13 y53=13 05_anova1 47

48 2. Quadratsummen berechnen
strukturell bildhaft emotional y11=5 y12=12 y13=12 y21=7 y22=7 y23=11 y31=3 y32=8 y33=12 y41=4 y42=10 y43=12 y51=6 y52=13 y53=13 Quadratsumme zwischen: 05_anova1 48

49 2. Quadratsummen berechnen
strukturell bildhaft emotional y11=5 y12=12 y13=12 y21=7 y22=7 y23=11 y31=3 y32=8 y33=12 y41=4 y42=10 y43=12 y51=6 y52=13 y53=13 Quadratsumme innerhalb: 05_anova1 49

50 3. Freiheitsgrade berechnen
strukturell bildhaft emotional y11=5 y12=12 y13=12 y21=7 y22=7 y23=11 y31=3 y32=8 y33=12 y41=4 y42=10 y43=12 y51=6 y52=13 y53=13 05_anova1 50

51 4. Mittlere Quadratsummen
05_anova1 51

52 5. Empirischer F-Wert 05_anova1 52

53 6. Kritischer F-Wert 05_anova1 53

54 Interpretation: 6. Kritischer F-Wert Die H0 wird verworfen
Die H1 wird angenommen  Es gibt eine Effektvarianz  Die Gruppen unterscheiden sich voneinander 05_anova1 54

55 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 55

56 anova und glm in SPSS 05_anova1 56

57 anova in SPSS Syntax: oneway wörter by bedingung. 05_anova1 57

58 anova in SPSS 05_anova1 58

59 glm in SPSS Syntax: unianova wörter by bedingung. oder
glm wörter by bedingung. 05_anova1 59

60 glm in SPSS 05_anova1 60

61 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 61

62 Voraussetzungen der Varianzanalyse
Intervallskalierte, normalverteilte abhängige Variable (AV)  Berechnung von Varianzen Mindestens 20 Elemente pro Gruppe Ähnlich Gruppengrößen in den Zellen  Varianzhomogenität 05_anova1 62

63 Prüfung der Varianzhomogenität
Zur Überprüfung der Varianzhomogenität stehen verschiedene Tests zur Verfügung: Barlett-Test (sehr empfindlich gegenüber der Verletzungen der Normalverteilung) Levene-Test (relativ unempfindlich gegenüber Verletzungen der Normalverteilung) Fmax-Statistik (Hartley Test) (Nur bei gleichen Gruppen-Größen) 05_anova1 63

64 Der Levene-Test Der Levene-Test ist eine Varianzanalyse über die Abweichung der individuellen Messwerte vom Gruppenmittelwert: Wird der Levene-Test signifikant (p < .05), dann ist die Annahme der Varianzgleichheit verletzt.  In diesem Fall sollte (streng genommen) keine Varianzanalyse verwendet werden. H0: 05_anova1 64

65 Der Levene-Test in SPSS
Test der Homogenität der Varianzen wörter Levene-Statistik df1 df2 Signifikanz 3,840 2 12 ,051 p >.05  ANOVA darf verwendet werden! 05_anova1 65

66 Voraussetzungen der Varianzanalyse
Die Varianzanalyse ist robust! Bei Verletzungen der Annahmen resultieren meistens trotzdem sinnvolle Ergebnisse (Insbesondere bei großen Stichproben). Wenn nur eine der Annahmen verletzt ist, können die Ergebnisse einer ANOVA dennoch in aller Regel verwendet werden. Allerdings muss dann berichtet werden, dass die Annahme verletzt ist, damit der Leser weiß, das die Ergebnisse mit Vorsicht zu interpretieren sind! Wenn allerding mehrere Voraussetzungen verletzt sind, sollte keine ANOVA mehr verwendet werden. 05_anova1 66

67 Einfaktorielle Varianzanalyse (ANOVA)
Ziele der Varianzanalyse Formale Hypothesen Strukturgleichung und Kodierung Quadratsummenzerlegung Erwartungswerte F-Test anova und glm in SPSS Voraussetzungen der Varianzanalyse Effektstärke 05_anova1 67

68 Berechnung der Effektstärke
Effektstäre Wenn eine ANOVA ein signifikantes Ergebnis hat, stellt sich die Frage nach der Effektstärke. Formulierungen der H1: „Es besteht ein statistisch bedeutsamer Zusammenhang zwischen UV und AV „Die UV erklärt einen bedeutsamen Anteil der Varianz der AV“ Der Anteil aufgeklärter Varianz (R²) kann als Maß für die Effektstärke interpretiert werden. Der Anteil aufgeklärter Varianz wird bei der ANOVA als (partielles) η² (Eta²) bezeichnet. 05_anova1 68

69 Berechnung der Effektstärke
Eta² kann auch aus dem F-Wert berechnet werden: 05_anova1 69

70 Effektstärke in SPSS 05_anova1 70

71 Effektstärke in SPSS 05_anova1 71

72 Zusammenfassung ANOVA
Warum Varianzanalyse? Alphafehlerkummulierung Bonferoni-Korrektur Hypothesen H0: Alle Mittelwerte sind gleich H1: Nicht alle Mittelwerte sind gleich Strukturgleichung und Kodierung Y = X ∙ a + e Dummy vs. Effektcodierung 05_anova1 72

73 Zusammenfassung ANOVA
Quadratsummenzerlegung Erwartungswerte Unter der H0: σ²between = σ²within Unter der H1: σ²between > σ²within 05_anova1 73

74 Zusammenfassung ANOVA
F-Test: anova und glm in SPSS Voraussetzungen der Varianzanalyse Intervallskalenniveau, Normalverteilung Ni ≥ 20 Nmax / Nmin < 1.5 Varianzhomogenität Effektstärke (η²) = Aufgeklärte Varianz (R²) 05_anova1 74