Über den Verlauf des Vergessens

Präsentation zum Thema: "Über den Verlauf des Vergessens"—  Präsentation transkript:

1 Über den Verlauf des Vergessens
Memory is a mud trap Über den Verlauf des Vergessens Christian Kaernbach Universität Leipzig

2 Wie zerfallen Gedächtnisinhalte?
Zerfall oder Interferenz? Untrennbar miteinander verbunden: Es gibt keine Retentionsdauer, in der keine Interferenz stattfände, und sei es durch interne Zustände. Ob man Zerfall oder Interferenz mißt, hängt von der eingesetzten Methode ab. Im folgenden wird nur betrachtet der Zerfall als Funktion der Zeit.

3 Wie zerfällt Uran? Radioaktiver Zerfall ... Ausschwingen einer Gitarrensaite Bremsvorgänge in Flüssigkeit oder Gas allgemein: Relaxation in linearen Systemen ... verläuft exponentiell generiert durch „negative Verzinsung“ Pro Zeiteinheit zerfällt ein gleicher Prozentsatz.

4 Ebbinghaus Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot.

5 Woodworth & Schlosberg (1954):
Ebbinghaus Woodworth & Schlosberg (1954): Anderson (1983): Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot.

6 Woodworth & Schlosberg (1954):
Ebbinghaus Woodworth & Schlosberg (1954): Anderson (1983): Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot.

7 Woodworth & Schlosberg (1954):
Ebbinghaus Woodworth & Schlosberg (1954): Anderson (1983): Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot.

8 Woodworth & Schlosberg (1954):
Ebbinghaus Woodworth & Schlosberg (1954): Anderson (1983): Ebbinghaus, H. (1885). Über das Gedächtnis. Untersuchungen zur experimentellen Psychologie. Leipzig: Duncker & Humblot.

9 Kurvenanpassung Rubin, D.C. & Wenzel, A.E. (1996) One hundred years of forgetting: a quantitative description of retention. Psychol. Rev. 103, 210 Datensätze 105 zweiparametrige Formeln (theoriefrei) kein Sieger

10 Gültigkeit des „Potenzgesetzes“
Material Sinnlose Silben, Wörter Alltagswissen Fertigkeiten Explizites und implizites Gedächtnis Lernen und Vergessen Zeitbereiche Wixted & Ebbesen (1991): s Squire (1989): Jahre Spezies Menschen Hunde, Ratten, Katzen, ... Bienen

11 Gültigkeit des „Potenzgesetzes“
Material Sinnlose Silben, Wörter Alltagswissen Fertigkeiten Explizites und implizites Gedächtnis Lernen und Vergessen Zeitbereiche Wixted & Ebbesen (1991): s Squire (1989): Jahre Spezies Menschen Hunde, Ratten, Katzen, ... Bienen Baddeley, A. (1997) Human memory: Theory and practice. Hove: Psychology Press. “We know surprisingly little about this most fundamental aspect of human memory.”

12 Gedächtnismodelle Jede Spur ist ein getrennter Knoten im Netzwerk.
Suche unter parallel aktivierten Spuren SAM (Raaijmakers & Shiffrin, 1980) Aktivierungsausbreitung zwischen den Spuren ACT (Anderson, 1983) Die Spur ist auf alle beteiligten Knoten verteilt. Parallel Distributed Processing (Rumelhart McClelland 1986) Hopfield Netz (Hopfield & Tank, 1986)

13 Das Hopfield-Netz N Neurone, symmetrisch all-to-all verbunden. cj Zustand des Neurons j wij Gewicht der Synapse zwischen Neuron j und Neuron i internes Potential = Summe der Aktivität  Synapsengewichte. Feuern probabilistisch.

14 Hebbsches Lernen wij wird vergrößert, „wenn es mit den Geschehnissen kompatibel ist“. cj(t-1) = +1, ci(t) = +1, oder cj(t-1) = –1, ci(t) = –1. wij wird verkleinert, „wenn es mit den Geschehnissen inkompatibel ist“. cj(t-1) = +1, ci(t) = –1, oder cj(t-1) = –1, ci(t) = +1. Größe der Veränderung: Lernrate h

15 Vergessen im Hopfield-Netz
Start mit Idealgewichten für zu erinnerndes Muster. Hebbsches Lernen bei hoher Temperatur bewirkt allmähliches Vergessen.

16 Diffusion mit Hindernissen
x Systematisch durchvariieren: Neuronenzahl N = 8, 16, 32, 64 Temperatur T = Lernrate h = Mit steigendem  sinkt E: E  0.58  h-0.6

17 Diffusion mit Hindernissen
x Nicht-exponentielle Diffusion x Häufigkeit DE

18 Mittag-Leffler-Funktion
Beispiel für a = 0.5: ? Anwendbarkeit in der Gedächtnispsychologie? ML-Funktionen passen zu den Gedächtnis-Daten. ML-Funktionen haben keine Singularität bei t = 0. Es gibt eine erzeugende Differentialgleichung, die von einem mikromechanischen Modell motiviert ist.

19 Fallen verschiedener Tiefe
Einwand: Im Hopfieldnetz liegen bei konstantem  Fallen gleicher Tiefe vor. Bei einer Exponentialverteilung der Fallentiefe ergibt sich eine Wartezeitverteilung mit nicht-finitem Mittelwert:

20 Dynamische Fallen In der Neuroinformatik üblich: T oder h mit der Zeit verkleinern. simulated annealing: T nimmt ab. Kohonen-Karten: h nimmt ab. äquivalent: DE vergrößern. setzt globalen Effektor voraus (Hormon?) festes Zeitschema inadäquat für kontinuierlichen Input

21 Wartezeitverteilung mit nicht-finitem Mittelwert:
Dynamische Fallen mud trap In der Neuroinformatik üblich: T oder h mit der Zeit verkleinern. simulated annealing: T nimmt ab. Kohonen-Karten: h nimmt ab. äquivalent: DE vergrößern. setzt globalen Effektor voraus (Hormon?) festes Zeitschema inadäquat für kontinuierlichen Input alternativer Ansatz: „adaptive Fallen“ Je länger ein item in einer Falle ist, desto tiefer wird sie.

22 Hopfield mit dynamischen Fallen
Bei unverändertem Muster sinkt die Temperatur: Wenn sich das Muster ändert, wird die Temperatur wieder hochgesetzt.

23 Hopfield mit dynamischen Fallen
Bei unverändertem Muster sinkt die Lernrate: Wenn sich das Muster ändert, wird die Lernrate wieder hochgesetzt.

24 Steuerung pro Neuron Bei unverändertem Einzelverhalten des Neurons sinkt dessen Temperatur. Wenn sich das Einzelverhalten ändert, wird die Temperatur wieder hochgesetzt.

25 Lernen im Hopfield-Netz
Start mit zufälligen Gewichten. Hebbsches Lernen bei verrauschtem Muster. Bei unverändertem Muster sinkt die Lernrate. Wenn sich das Muster ändert, wird sie wieder hochgesetzt. „Potenzgesetz“ des Lernens set effect

26 Bringt die mudtrap einen Vorteil?
Hebbsches Lernen bei verrauschtem Muster bewirkt allmähliches Lernen. Ab Zeitschritt 1000 wird unkorreliertes Rauschen eingesetzt: Vergessen. ohne mudtrap mit mudtrap

27 Das Jostsche Gesetz Sind zwei Spuren jetzt unter einer bestimmten Operationalisierung gleich stark, dann wird später diejenige stärker sein, die früher gesetzt wurde. Jost, A. (1897). Die Assoziationsfestigkeit in ihrer Abhängigkeit von der Verteilung der Wiederholungen. Zeitschrift für Psychologie und Physiologie der Sinnesorgane, 14,

28 Das Netzwerk Igor Sokolov Sverker Sikström
Sokolov, I., Klafter, J., Blumen, A. (2002). Fractional Kinetics. Physics Today 55, fraktale Kinetik Sikström, S. (2002). Forgetting curves: implications for connectionist models. Cognitive Psychology 45, 95–152. verteilte Lerngeschwindigkeiten primacy, recency-Effekte

29 Fazit learn and Memory is the thing you forget with. Alexander Chase, Perspectives (1966) Das Lernen und Vergessen in einem Hopfield-Netz mit verteilten oder adaptiven Fallen wird durch eine fraktale Differentialgleichung beschrieben und verläuft wie eine Mittag-Leffler-Funktion. Wichtig ist nicht die genaue Implementierung. Wird menschliches Lernen/Vergessen durch eine fraktale DG beschrieben? Es könnte schon so sein... Die Daten werden zwar nicht besser beschrieben, aber der Verlauf wird zum ersten Mal von theoretischen Modellvorstellungen abgeleitet. Experimentelle Überprüfung „Potenzgesetz“ zum x-ten Mal bestätigen: wenig hilfreich Abweichungen vom „Potenzgesetz“ finden Vorhersage: für kleine t (Wixted & Ebbesen, 1991: s)  Test: sensorisches Gedächtnis

30 Ausblick Lebensdauer des auditiv sensorischen Gedächtnisses
2. Intervall 1. Intervall SOA Inhalt Lebensdauer des auditiv sensorischen Gedächtnisses Inhalt

31 Zeitbereich und Material
Wixted, J. T., & Ebbesen, E. B. (1991). On the form of forgetting. Psychol. Sci. 2, Squire, L. R. (1989). On the course of forgetting in very long-term memory. JEP: LMC 15,

32 Fraktale Differentialrechnung