Projektseminar WS 09/10 Lars Konieczny Daniel Müller Helmut Weldle Konnektionistische Sprachverarbeitung.

Präsentation zum Thema: "Projektseminar WS 09/10 Lars Konieczny Daniel Müller Helmut Weldle Konnektionistische Sprachverarbeitung."—  Präsentation transkript:

1 Projektseminar WS 09/10 Lars Konieczny Daniel Müller Helmut Weldle Konnektionistische Sprachverarbeitung

2 TOPS Was ist ein Projektseminar? Organisatorisches –Scheinbedingungen –Zeitplan –Materialien Projekte: –Lokale syntaktische Kohärenzen (Daniel) –Kontexteffekte bei der Anaphernresolution (Helmut) 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 2

3 Whatis Projektseminar? Kognitionswissenschaftlich Forschen lernen - und dann selber machen Kognitionswissenschaftliche Forschungslogik verbindet empirische Methoden (Experiment) und kognitive Modellierung. Eigenständige Durchführung einer kognitionswissenschaftlichen Untersuchung im Dunstkreis eines der derzeit in der Abteilung laufenden Projekte. 20.Oktober 2010 3 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung

4 What you get… Theorie –Einführung in die Psycholinguistik –Einführung in den Konnektionismus –Einführung in die projektbezogenen Fragestellungen Praxis –Design, Implementierung und Durchführung eines psycholinguistischen Experiments (Eyetracking) –Implementierung künstlicher neuronaler Netze, konnektionistische Simulation –Auswertung und Berichten empirischer Daten –Schreiben eines Papers im APA-Stil 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 4

5 What we get… Regelmäßige Teilnahme Übernahme eines Referats Lesen der Literatur Aktive Mitarbeit in den Projekten Hausarbeit in der Projektgruppe: APA-Paper zum Projekt 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 5

6 Termine Dienstag, 14-16 Uhr Donnerstag, 16-18 Uhr Zusatztermin von 3.-11. Woche 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 6

7 Wie‘s laufen wird Block 1: Überblick –Vorlesungen zu Theorien, Methoden, Projekten Block 2: Theorien und Methoden –Referate zu Psycholinguistik und Konnektionismus –Übungen zu Empirie und Modellierung: Umgang mit den notwendigen Werkzeugen, Software, Eyetracker Block 3: Projektarbeit Block 4: Finish –Präsentationen der Projektgruppen und Abschlussdiskussion 20.Oktober 2010 7 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung

8 Projektarbeit 2 Projektthemen Dazu jeweils Experiment und Modellierung  4 Projekt-Gruppen 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 8 ModellierungExperiment Planung der SimulationDesign des Experiments Erstellen der Materialien (Grammatik Schreiben, Trainingsmaterialien erstellen, Netzwerkarchitektur…) Erstellung der Stimuli (Sätze, Audiofiles, …), Implementierung des Paradigmas Durchführen / Testen / Variieren der Simulationen Akquise von Versuchspersonen, Durchführen der Experimente Auswertung und Interpretation Abschlusspräsentation + Paper

9 Materialien etc. Genauer Semesterablauf und Termine auf der Homepage: http://portal.uni-freiburg.de/cognition/studium- lehre/veranstaltungen/WS0910/sprachverarbeitung Materialien: –Literatur, Folien (unsre und eure), Software http://cognition.iig.uni-freiburg.de/materialien/projektseminar_09_10/ Login: student Pwd: kogwis09 Plattform für Datenaustausch in Projektgruppen 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 9

10 Fragen? 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 10

11 Projekte 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 11 Connectionist Modelling of Semantic Interpretation Processes (DiscourseNET) Optimizing comprehensibility of terminological texts (KUFA) Local Syntactic Coherences Perspectivic Aspects of the Action-Sentence Compatibility Effect Individual Differences in Language Processing and Executive Functions Influences on scope interpretation preferences Influences of Local Coherence on Anaphora Binding

12 Satzkomplexität und lokale syntaktische Kohärenz Psycholinguistik: wie produzieren und verstehen Menschen Sprache? Satzkomplexität: Relativsätze Ein konnektionistisches Modell… …und Konsequenzen daraus: False alarm predictions Visual World Studie Lesestudie Fazit 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 12

13 Psycho - linguistik Sprache ist einfach – fast jeder kann sie lernen Sprache ist schwierig, wenn man sich Gedanken drüber macht Psycholinguistik: Wie funktioniert menschliche Sprachverarbeitung? –Warum und wann machen wir Fehler? –Warum und wann sind manche Sätze schwieriger als andere? 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 13

14 Subjekt- und Objektrelativsätze 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 14 1)The reporter that attacks the senator admitted the error. 2)The reporter that the senator attacks admitted the error.

15 McDonald & Christiansen (2002) Simulation mit SRNs (Simple Recurrent Networks) Aufgabe: Vorhersagen des nächsten Wortes im Satz Training mit (künstlicher) Grammatik des Englischen: –Viele einfache Sätze –Wenige (10%) komplexe Sätze (Relativsätze ORC/SRC 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 15

16 McDonald & Christiansen (2002) 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 16 Ungewöhnliche Wortfolge (OVS) vs. häufige (SVO)  Transfer Gruppenunterschiede: Nicht Arbeitsgedächtniskapazität, sondern Erfahrenheit mit Sprache (Experience)

17 False alarm predictions / lokale syntaktische Kohärenzen Aber: Wo genau kommt der Fehler her? Analyse der Netzwerke ergibt: false alarm predictions 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 17

18 False alarm predictions / lokale syntaktische Kohärenzen beim Menschen? die Astronautin überrascht den Außerirdischen vom Mars 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 18 Hans, demzeigt,ungläubig ist überwältigt. Astronautin zeigt (überrascht) den Außerirdischen Astronautin überrascht den Außerirdischen

19 Ergebnis 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 19

20 Offene Fragen lokale Interpretation eventuell nur durch visuelle Stimuli induziert Warum sollten Menschen lokale syntaktische Kohärenzen verarbeiten? 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 20

21 Lesestudie die Astronautin überrascht den Außerirdischen vom Mars 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 21 Hans, dem zeigt, ist überwältigt.Felsblock

22 Fazit / Ausblick /Projekte Lokale syntaktische Kohärenzen –werden tatsächlich verarbeitet und interpretiert –scheinen eine Quelle von Satzkomplexität zu sein –sind Evidenz für konnektionistische/dynamische Ansätze Projekte: –Leseexperiment –Modellierung mit SRNs 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 22

23 Anaphernresolution Anapher ≈ Rückbezug auf bereits erwähnte Objekte –Pronomen: Peter geht nach Hause. Er ist müde. –Definite NP: Linguisten aus ganz Europa trafen sich auf der Konferenz. Die Wissenschaftler hatten hohe Erwartungen. Anaphernresolution ≈ Auflösung der Co-Referenz –Syntaktische und semantische Constraints Agreement: Janette i erzählte Phillip j und seinen j Freunden, dass sie i verliebt ist. Semantische Konsistenz: Vinzent entfernt den USB-Stick i vom Computer j …und schaltet ihn j aus./ …und steckt ihn i in die Tasche. –strukturelle Präferenzen Parallelismus: Peter i gibt Stefan j das Lehrbuch. Klaus gibt ihm j außerdem einen Stift./ Er i gibt Klaus außerdem einen Stift. 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 23

24 Anaphernresolution Annahme Government & Binding Theorie –Globale syntaktische Struktur bestimmt die korrekte Anbindung –Komplementäre Bindungsdomänen für Reflexiva und Pronomina Gegenannahme –Lokale syntaktische Kohärenz beeinflusst die Anbindung –Ermöglicht den Zugang zu einem Antezedenten, der global unzugänglich sein sollte 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 24 Ken i who likes John j saw him j in the mirror. Ken i who likes John j saw himself i in the mirror.*Ken i who likes John j saw himself j in the mirror. *Ken i who likes John j saw him i in the mirror.

25 AnaphorSRN Projekt AnaphorSRN –Können rekurrente konnektionistische Netzwerke sinnvoll anaphorische Referenzen auflösen? –Welche Eigenschaften zeigen sie dabei? –Weitergehen: Können SRNs Variablen binden? Architektur –Kaskaden-SRN, das parallel zwei Aufgaben erfüllt: a) Wortvorhersage b) Referenzzuweisung 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 25

26 AnaphorSRN 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 26 Während der Germanist i, den der Biologe j sieht, sich i/*j kratzt, langweilt die Chemikerin den Mathematiker.

27 AnaphorLoCo Projekt AnaphorLoCo –Verändern Lokale syntaktische Kohärenzen (hier in gesprochenen Sätzen) die Annahme des Referenten, der durch die Anapher gebunden werden soll? Experiment im Visual World Paradigma –Bilder ankucken Sätze dazu hören –Aufzeichnung der Fixationen: Blickwahrscheinlichkeit auf kritischer Satzposition 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 27

28 AnaphorLoCo 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 28 Target: Während der Vater i, den der Sohn j kämmt, sich i/*j zur selben Zeit anzieht, … Control: Während der Vater i, den der Sohn j anzieht, sich i/*j zur selben Zeit kämmt, …

29 Anaphernprojekte AnaphorSRN –Fortsetzung der Vorgängerstudien Weldle, H., Baumann, P., Müller, D., Wolfer, S., Konieczny, L. (2009). Connectionist modeling of syntax and anaphora resolution. Poster presented at the 22nd Annual Meeting of the CUNY Conference on Human Sentence Processing in Davis (USA), march, 2009. Weldle, H., Konieczny, L., Müller, D., Wolfer, S., Baumann, P. (2009). Language acquisition and processing in integrative connectionist models. Paper presented at the Annual Meeting of the Embodied and Situated Language Processing in Rotterdam (NL), juli, 2009. –Neue Grammatik, Architekturvariationen, andere Anaphern berücksichtigen AnaphorLoCo –Fortsetzung der Vorgängerstudien Weldle, H., Konieczny, L., Baumann, P., Wolfer, S., Müller, D., Feldmeth, A.K., Kühner, D., Teske, M. (2009). Local syntactic coherences interfere with anaphora resolution. Paper presented at the 15th European Conference on Eye Movements in Southampton (UK), august, 2009. Konieczny, L., Weldle, H., Baumann, P., Wolfer, S., Müller, D., Feldmeth, A.K., Kühner, D., Teske, M. (2009). Local coherences interfere with on-line anaphora resolution. Poster presented at the Architectures and Mechanisms for Language Processing Conference (AMLaP) in Barcelona (Spain), september, 2009. –Materialien aus AnaLoCo2 und AnaLoCo3 20.Oktober 2010 Projektseminar WS 09/10 Konnektionistische Sprachverarbeitung 29

30 THE END