Die Präsentation wird geladen. Bitte warten

Die Präsentation wird geladen. Bitte warten

Memory is a mud trap Über den Verlauf des Vergessens Christian Kaernbach Universität Leipzig.

Ähnliche Präsentationen


Präsentation zum Thema: "Memory is a mud trap Über den Verlauf des Vergessens Christian Kaernbach Universität Leipzig."—  Präsentation transkript:

1 Memory is a mud trap Über den Verlauf des Vergessens Christian Kaernbach Universität Leipzig

2 Wie zerfallen Gedächtnisinhalte? Zerfall oder Interferenz? –Untrennbar miteinander verbunden: Es gibt keine Retentionsdauer, in der keine Interferenz stattfände, und sei es durch interne Zustände. –Ob man Zerfall oder Interferenz mißt, hängt von der eingesetzten Methode ab. –Im folgenden wird nur betrachtet der Zerfall als Funktion der Zeit. Zerfall oder Interferenz? –Untrennbar miteinander verbunden: Es gibt keine Retentionsdauer, in der keine Interferenz stattfände, und sei es durch interne Zustände. –Ob man Zerfall oder Interferenz mißt, hängt von der eingesetzten Methode ab. –Im folgenden wird nur betrachtet der Zerfall als Funktion der Zeit.

3 Wie zerfällt Uran? Radioaktiver Zerfall... Ausschwingen einer Gitarrensaite Bremsvorgänge in Flüssigkeit oder Gas allgemein: Relaxation in linearen Systemen... verläuft exponentiell generiert durch negative Verzinsung –Pro Zeiteinheit zerfällt ein gleicher Prozentsatz. Radioaktiver Zerfall... Ausschwingen einer Gitarrensaite Bremsvorgänge in Flüssigkeit oder Gas allgemein: Relaxation in linearen Systemen... verläuft exponentiell generiert durch negative Verzinsung –Pro Zeiteinheit zerfällt ein gleicher Prozentsatz.

4 Ebbinghaus Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot.

5 Ebbinghaus Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot. Woodworth & Schlosberg (1954): Anderson (1983):

6 Ebbinghaus Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot. Woodworth & Schlosberg (1954): Anderson (1983):

7 Ebbinghaus Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot. Woodworth & Schlosberg (1954): Anderson (1983):

8 Ebbinghaus Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot. Woodworth & Schlosberg (1954): Anderson (1983):

9 Kurvenanpassung Rubin, D.C. & Wenzel, A.E. (1996) One hundred years of forgetting: a quantitative description of retention. Psychol. Rev. 103, –210 Datensätze –105 zweiparametrige Formeln (theoriefrei) –kein Sieger Rubin, D.C. & Wenzel, A.E. (1996) One hundred years of forgetting: a quantitative description of retention. Psychol. Rev. 103, –210 Datensätze –105 zweiparametrige Formeln (theoriefrei) –kein Sieger

10 Gültigkeit des Potenzgesetzes Material –Sinnlose Silben, Wörter –Alltagswissen –Fertigkeiten Explizites und implizites Gedächtnis Lernen und Vergessen Zeitbereiche –Wixted & Ebbesen (1991): s –Squire (1989): Jahre Spezies –Menschen –Hunde, Ratten, Katzen,... –Bienen Material –Sinnlose Silben, Wörter –Alltagswissen –Fertigkeiten Explizites und implizites Gedächtnis Lernen und Vergessen Zeitbereiche –Wixted & Ebbesen (1991): s –Squire (1989): Jahre Spezies –Menschen –Hunde, Ratten, Katzen,... –Bienen

11 Material –Sinnlose Silben, Wörter –Alltagswissen –Fertigkeiten Explizites und implizites Gedächtnis Lernen und Vergessen Zeitbereiche –Wixted & Ebbesen (1991): s –Squire (1989): Jahre Spezies –Menschen –Hunde, Ratten, Katzen,... –Bienen Material –Sinnlose Silben, Wörter –Alltagswissen –Fertigkeiten Explizites und implizites Gedächtnis Lernen und Vergessen Zeitbereiche –Wixted & Ebbesen (1991): s –Squire (1989): Jahre Spezies –Menschen –Hunde, Ratten, Katzen,... –Bienen Gültigkeit des Potenzgesetzes Baddeley, A. (1997) Human memory: Theory and practice. Hove: Psychology Press. We know surprisingly little about this most fundamental aspect of human memory.

12 Gedächtnismodelle Jede Spur ist ein getrennter Knoten im Netzwerk. –Suche unter parallel aktivierten Spuren SAM (Raaijmakers & Shiffrin, 1980) –Aktivierungsausbreitung zwischen den Spuren ACT (Anderson, 1983) Die Spur ist auf alle beteiligten Knoten verteilt. Parallel Distributed Processing (Rumelhart McClelland 1986) –Hopfield Netz (Hopfield & Tank, 1986) Jede Spur ist ein getrennter Knoten im Netzwerk. –Suche unter parallel aktivierten Spuren SAM (Raaijmakers & Shiffrin, 1980) –Aktivierungsausbreitung zwischen den Spuren ACT (Anderson, 1983) Die Spur ist auf alle beteiligten Knoten verteilt. Parallel Distributed Processing (Rumelhart McClelland 1986) –Hopfield Netz (Hopfield & Tank, 1986)

13 Das Hopfield-Netz N Neurone, symmetrisch all-to-all verbunden. c j Zustand des Neurons j w ij Gewicht der Synapse zwischen Neuron j und Neuron i Feuern probabilistisch. internes Potential = Summe der Aktivität Synapsengewichte.

14 Hebbsches Lernen w ij wird vergrößert, wenn es mit den Geschehnissen kompatibel ist. c j (t 1) = +1, c i (t) = +1, oder c j (t 1) = –1, c i (t) = –1. w ij wird verkleinert, wenn es mit den Geschehnissen inkompatibel ist. c j (t 1) = +1, c i (t) = –1, oder c j (t 1) = –1, c i (t) = +1. Größe der Veränderung: Lernrate

15 Vergessen im Hopfield-Netz Start mit Idealgewichten für zu erinnerndes Muster. Hebbsches Lernen bei hoher Temperatur bewirkt allmähliches Vergessen. Start mit Idealgewichten für zu erinnerndes Muster. Hebbsches Lernen bei hoher Temperatur bewirkt allmähliches Vergessen.

16 Diffusion mit Hindernissen x Systematisch durchvariieren: NeuronenzahlN = 8, 16, 32, 64 TemperaturT = Lernrate = Systematisch durchvariieren: NeuronenzahlN = 8, 16, 32, 64 TemperaturT = Lernrate = Mit steigendem sinkt E: E 0.58 Mit steigendem sinkt E: E 0.58

17 x Diffusion mit Hindernissen Häufigkeit E Nicht-exponentielle Diffusion x

18 Mittag-Leffler-Funktion Beispiel für = 0.5: ML-Funktionen passen zu den Gedächtnis-Daten. ML-Funktionen haben keine Singularität bei t = 0. Es gibt eine erzeugende Differentialgleichung, die von einem mikromechanischen Modell motiviert ist. ML-Funktionen passen zu den Gedächtnis-Daten. ML-Funktionen haben keine Singularität bei t = 0. Es gibt eine erzeugende Differentialgleichung, die von einem mikromechanischen Modell motiviert ist. ? Anwendbarkeit in der Gedächtnispsychologie?

19 Fallen verschiedener Tiefe Bei einer Exponentialverteilung der Fallentiefe ergibt sich eine Wartezeitverteilung mit nicht-finitem Mittelwert: Einwand: Im Hopfieldnetz liegen bei konstantem Fallen gleicher Tiefe vor.

20 Dynamische Fallen In der Neuroinformatik üblich: T oder mit der Zeit verkleinern. –simulated annealing: T nimmt ab. –Kohonen-Karten: nimmt ab. äquivalent: E vergrößern. In der Neuroinformatik üblich: T oder mit der Zeit verkleinern. –simulated annealing: T nimmt ab. –Kohonen-Karten: nimmt ab. äquivalent: E vergrößern. –setzt globalen Effektor voraus (Hormon?) –festes Zeitschema inadäquat für kontinuierlichen Input –setzt globalen Effektor voraus (Hormon?) –festes Zeitschema inadäquat für kontinuierlichen Input

21 Dynamische Fallen alternativer Ansatz: adaptive Fallen Je länger ein item in einer Falle ist, desto tiefer wird sie. mud trap In der Neuroinformatik üblich: T oder mit der Zeit verkleinern. –simulated annealing: T nimmt ab. –Kohonen-Karten: nimmt ab. äquivalent: E vergrößern. In der Neuroinformatik üblich: T oder mit der Zeit verkleinern. –simulated annealing: T nimmt ab. –Kohonen-Karten: nimmt ab. äquivalent: E vergrößern. –setzt globalen Effektor voraus (Hormon?) –festes Zeitschema inadäquat für kontinuierlichen Input –setzt globalen Effektor voraus (Hormon?) –festes Zeitschema inadäquat für kontinuierlichen Input Wartezeitverteilung mit nicht-finitem Mittelwert:

22 Hopfield mit dynamischen Fallen Bei unverändertem Muster sinkt die Temperatur: Wenn sich das Muster ändert, wird die Temperatur wieder hochgesetzt. Bei unverändertem Muster sinkt die Temperatur: Wenn sich das Muster ändert, wird die Temperatur wieder hochgesetzt.

23 Hopfield mit dynamischen Fallen Bei unverändertem Muster sinkt die Lernrate: Wenn sich das Muster ändert, wird die Lernrate wieder hochgesetzt. Bei unverändertem Muster sinkt die Lernrate: Wenn sich das Muster ändert, wird die Lernrate wieder hochgesetzt.

24 Steuerung pro Neuron Bei unverändertem Einzelverhalten des Neurons sinkt dessen Temperatur. Wenn sich das Einzelverhalten ändert, wird die Temperatur wieder hochgesetzt. Bei unverändertem Einzelverhalten des Neurons sinkt dessen Temperatur. Wenn sich das Einzelverhalten ändert, wird die Temperatur wieder hochgesetzt.

25 Lernen im Hopfield-Netz Potenzgesetz des Lernens set effect Start mit zufälligen Gewichten. Hebbsches Lernen bei verrauschtem Muster. Bei unverändertem Muster sinkt die Lernrate. Wenn sich das Muster ändert, wird sie wieder hochgesetzt. Start mit zufälligen Gewichten. Hebbsches Lernen bei verrauschtem Muster. Bei unverändertem Muster sinkt die Lernrate. Wenn sich das Muster ändert, wird sie wieder hochgesetzt.

26 Bringt die mudtrap einen Vorteil? Hebbsches Lernen bei verrauschtem Muster bewirkt allmähliches Lernen. Ab Zeitschritt 1000 wird unkorreliertes Rauschen eingesetzt: Vergessen. Hebbsches Lernen bei verrauschtem Muster bewirkt allmähliches Lernen. Ab Zeitschritt 1000 wird unkorreliertes Rauschen eingesetzt: Vergessen. ohne mudtrap mit mudtrap

27 Das Jostsche Gesetz Sind zwei Spuren jetzt unter einer bestimmten Operationalisierung gleich stark, dann wird später diejenige stärker sein, die früher gesetzt wurde. Jost, A. (1897). Die Assoziationsfestigkeit in ihrer Abhängigkeit von der Verteilung der Wiederholungen. Zeitschrift für Psychologie und Physiologie der Sinnesorgane, 14,

28 Das Netzwerk Sikström, S. (2002). Forgetting curves: implications for connectionist models. Cognitive Psychology 45, 95–152. –verteilte Lerngeschwindigkeiten –primacy, recency-Effekte Sikström, S. (2002). Forgetting curves: implications for connectionist models. Cognitive Psychology 45, 95–152. –verteilte Lerngeschwindigkeiten –primacy, recency-Effekte Sverker Sikström Igor Sokolov Sokolov, I., Klafter, J., Blumen, A. (2002). Fractional Kinetics. Physics Today 55, –fraktale Kinetik Sokolov, I., Klafter, J., Blumen, A. (2002). Fractional Kinetics. Physics Today 55, –fraktale Kinetik

29 Fazit Das Lernen und Vergessen in einem Hopfield-Netz mit verteilten oder adaptiven Fallen wird durch eine fraktale Differentialgleichung beschrieben und verläuft wie eine Mittag-Leffler-Funktion. –Wichtig ist nicht die genaue Implementierung. Wird menschliches Lernen/Vergessen durch eine fraktale DG beschrieben? Es könnte schon so sein... –Die Daten werden zwar nicht besser beschrieben, aber der Verlauf wird zum ersten Mal von theoretischen Modellvorstellungen abgeleitet. Experimentelle Überprüfung –Potenzgesetz zum x-ten Mal bestätigen: wenig hilfreich Das Lernen und Vergessen in einem Hopfield-Netz mit verteilten oder adaptiven Fallen wird durch eine fraktale Differentialgleichung beschrieben und verläuft wie eine Mittag-Leffler-Funktion. –Wichtig ist nicht die genaue Implementierung. Wird menschliches Lernen/Vergessen durch eine fraktale DG beschrieben? Es könnte schon so sein... –Die Daten werden zwar nicht besser beschrieben, aber der Verlauf wird zum ersten Mal von theoretischen Modellvorstellungen abgeleitet. Experimentelle Überprüfung –Potenzgesetz zum x-ten Mal bestätigen: wenig hilfreich Memory is the thing you forget with. Alexander Chase, Perspectives (1966) –Abweichungen vom Potenzgesetz finden Vorhersage: für kleine t (Wixted & Ebbesen, 1991: s) Test: sensorisches Gedächtnis –Abweichungen vom Potenzgesetz finden Vorhersage: für kleine t (Wixted & Ebbesen, 1991: s) Test: sensorisches Gedächtnis learn and

30 Ausblick Lebensdauer des auditiv sensorischen Gedächtnisses 2. Intervall1. Intervall SOA Inhalt

31 Squire, L. R. (1989). On the course of forgetting in very long-term memory. JEP: LMC 15, Squire, L. R. (1989). On the course of forgetting in very long-term memory. JEP: LMC 15, Zeitbereich und Material Wixted, J. T., & Ebbesen, E. B. (1991). On the form of forgetting. Psychol. Sci. 2,

32 Fraktale Differentialrechnung


Herunterladen ppt "Memory is a mud trap Über den Verlauf des Vergessens Christian Kaernbach Universität Leipzig."

Ähnliche Präsentationen


Google-Anzeigen