Effekte, Effektstärken, und Interpretation von Effekten Seminar Forschungsmethoden der Sozialpsychologie Johannes Ullrich Effekte, Effektstärken, und Interpretation von Effekten

Mittelwertsdifferenzen Zwei Gruppenmittelwerte (treatment vs. control), Vorurteile gegenüber Offenbachern Bogus Pipeline (Jones & Sigall, 1971) Studie 1

Mittelwertsdifferenzen Zwei Gruppenmittelwerte (treatment vs. control), Vorurteile gegenüber Offenbachern Bogus Pipeline (Jones & Sigall, 1971) Studie 1 Studie 2

Mittelwertsdifferenzen Vergleich von Mittelwertsdifferenzen unmöglich ohne Information über Variabilität der Daten SDpooled Studie 1 40 Studie 2 20

Standardisierte Mittelwertsdifferenzen Cohen's d .2 = klein .5 = mittel .8 = groß Studie 1 Studie 2

Kovarianz Zusammenhang zwischen zwei Variablen Einstellung zu gesundem Essen und gesundes Essverhalten Studie 1 Cov = 30 Studie 2 Cov = 70

Korrelation Pearson's r klein = .1 mittel = .3 groß = .5 Studie 1

Zusammenhänge zwischen Effektstärken Differenzen durch Variabilität (Fehlerterme) teilen bekannt aus ANOVA und t-Tests Unterschied: Abhängigkeit von Stichprobengröße

Zusammenhänge zwischen Effektstärken r und d sind mit Zusammenhangs- bzw. Unterschiedshypothesen assoziiert sind aber in einander transformierbar ermöglicht Vergleiche von Effektstärken nicht nur zwischen Replikationsstudien, sondern auch zwischen verschiedenen Designs und Variablen

Meta-Meta-Analyse von Richard et al. (2003, Review of General Psyc)

Zwischenfazit 1 Effekt = Beziehung zwischen X und Y, egal ob X treatment vs. control oder kontinuierliche Variable Standardisierung (Relativierung an Variabilität der Daten) macht Effekte leichter interpretierbar

Interpretation von Effekten: Das "Label" 1992 National Assessment of Educational Progress Mathematik-Ergebnisse für Schüler der 8. Klasse, getrennt nach Staat und Hautfarbe Aus Wainer & Brown (2004)

Simpson's Paradox Ensteht bei der Aggregation von gruppierten Daten, wenn die Gruppenmitgliedschaft mit der Aggregatvariable und der abhängigen Variable korreliert! Aus Wainer & Brown (2004)

"Natürliche" Gewichtung der Subgruppen-Mittelwerte bei der Errechnung eines Gesamtmittelwerts Standardisierte Gewichtung anhand der national repräsentativen Subgruppengröße Simpson's Paradox 1992 National Assessment of Educational Progress Mathematik-Ergebnisse für Schüler der 8. Klasse, getrennt nach Staat und Hautfarbe Aus Wainer & Brown (2004)

Zwischenfazit 2 Standardisierung alleine garantiert noch keine Interpretierbarkeit Simpson's Paradox nur eine Variante des "Drittvariablenproblems" Label bezieht sich auf X und Y, aber Z hängt auch mit X und Y zusammen (und A, B, C, ... möglicherweise auch)

Kausalität John Stuart Mill (1806-1873): Ursache geht der Wirkung voraus Zusammenhang Ursache-Wirkung Ausschluß von Alternativerklärungen

Kausalität John Stuart Mill (1806-1873): Ursache geht der Wirkung voraus Zusammenhang Ursache-Wirkung Ausschluß von Alternativerklärungen X Y

Kausalität X Y X Y X Y

Ursachen Streichholz als Ursache eines Waldbrands Inus condition: „Insufficient but Nonredundant part of an Unnecessary but Sufficient condition“ (Mackie, 1974) Deterministisch (Physik) vs. probabilistisch (Humanwissenschaften)

Kausale Effekte Definiert über Counterfactuals (kontrafaktische Überlegungen) Yt(u) - Yc(u) Effekt in Rubin's Causal Model: Unterschied zwischen dem, was man bei einer Person in der Treatment-Bedingung beobachten würde, und dem, was man bei derselben Person – unter denselben Umständen – in der Kontroll-Bedingung beobachten würde „Fundamentales Problem des kausalen Schließens“

Der ideale Vergleich Yt(u) - Yc(u) Wird am besten angenähert durch experimentelle Methoden Zufallszuweisung von Untersuchungseinheiten (Recipients) zu verschiedenen Bedingungen Zwischen den Bedingungen wird die vermutete Ursache systematisch variiert (Manipulation), wobei alle weiteren Umstände möglichst konstant gehalten werden Aspirin Placebo

Übung Prosoziales Verhalten bei Männern und Frauen Welche methodischen Probleme gibt es, die die Validität der Schlussfolgerungen gefährden können? Wie valide ist die Schlussfolgerung im letzten Satz des Berichts? 1 'überhaupt nicht' bis 11 'völlig valide'

Übung Stimulus-Sampling (Wells & Windschitl, 1999):

Probleme mit Experimenten Künstliche Bedingungen und Generalisierbarkeit Ethische Bedenken Manchmal bestimmt der Effekt die Fragestellung, und die Ursache ist schwer manipulierbar (Krankheiten, soziale Probleme), wie in Kriminalgeschichten: „Wer ist der Mörder?“

Alternativen zu Experimenten Keine Zufallszuweisung, aber Kenntnis von quantitativer Zuweisungsvariable Interrupted Time Series Design Regression Discontinuity Design Nicht-äquivalente Designs, "Beobachtungsstudien"

Interrupted Time Series Design Große Anzahl von Beobachtungen auf einer Variablen im Zeitverlauf Kenntnis des Zeitpunkts eines Treatments Veränderung in Intercept oder Slope Sofortiger oder verzögerter Effekt? Punktueller oder andauernder Effekt?

Datenquelle: Statistisches Bundesamt

Datenquelle: Statistisches Bundesamt

Regression-Discontinuity Design Bsp.: Finanzielle Zuschüsse für aus der Haft entlassene Menschen, wenn sie in den letzten 12 Monaten mind. 652 Stunden im Gefängnis gearbeitet haben. Senkt das die Rückfallquote?

Regression-Discontinuity Design

Kriminalgeschichten "Schmudellige" Kriminalgeschichten: Keine Zufallszuweisung, keine quantitative Zuweisungsvariable Der ideale Vergleich ist auch in "schmuddeligen" Kriminalgeschichten die Grundlage für alle weiteren Überlegungen Wie und warum weicht ein Forschungsdesign von dem idealen Vergleich ab?

Schlussfazit Effekte leichter interpretierbar durch: Standardisierung (z.B. d oder r) Kontrolle oder Kenntnis des Mechanismus der Zuweisung von Personen (und/oder Stimuli) zu den verschiedenen Stufen einer Treatment-Variable Validität von Schlussfolgerungen über empirische Ergebnisse hängt von der Passung von Effekt und Label ab