Die Präsentation wird geladen. Bitte warten

Die Präsentation wird geladen. Bitte warten

Kohonen-Feature-Map Selbstorganisierende Neuronale Netze NeuroLabMartin Reiche 20141 Achtung: Wir machen viele Vereinfachungen!

Ähnliche Präsentationen


Präsentation zum Thema: "Kohonen-Feature-Map Selbstorganisierende Neuronale Netze NeuroLabMartin Reiche 20141 Achtung: Wir machen viele Vereinfachungen!"—  Präsentation transkript:

1 Kohonen-Feature-Map Selbstorganisierende Neuronale Netze NeuroLabMartin Reiche Achtung: Wir machen viele Vereinfachungen!

2 Leistung des Nervensystems Das menschliche Gehirn empfängt Nervenimpulse. (mit 100 MB/s) Aus den eingehenden Impulsen erzeugt unser Gehirn die gesamte Wahrnehmung der Welt. (mit Hilfe des Gedächtnisses) UND Das Gehirn sendet Nervenimpulse. (mit 50 MB/sec) Die ausgehenden Impulse steuern unseren Körper inklusive der Sprache. NeuroLabMartin Reiche 20142

3 Wirkungskreislauf bei der Verhaltenssteuerung NeuroLabMartin Reiche Welt Auge Gehirn Beine Neuronen

4 Wichtige Leistung des Gehirns NeuroLabMartin Reiche Das Gehirn kann wiedererkennen d.h. einen Sinneseindruck einem Gedächtnisinhalt zuordnen. Dazu ist es bei Geburt natürlich nicht in der Lage. (Simpler Grund: Die Beschaffenheit der Umwelt ist vor der Geburt ja nicht bekannt.) Also muss das Gehirn diese Fähigkeit erwerben.

5 Konsequenz Wiedererkennen setzt Lernen voraus. Das wirft zwei Fragen auf: NeuroLabMartin Reiche Wie wird Gelerntes im Gehirn gespeichert? Wie vollzieht sich der Lernvorgang? Diese Fragen wollen wir an einem Modell untersuchen.

6 Natürliches Neuron (schematisch) NeuroLabMartin Reiche 20146

7 Vom Aktionspotenzial zur Erregung NeuroLabMartin Reiche Impulsfrequenz Erregung 0 0,5 1 ttt

8 Modell eines Neurons NeuroLabMartin Reiche Input von anderen Neuronen Output an andere Neuronen Σ W2W2 W1W1 W3W3 Synapsengewichte SummationSchwellwertfunktion

9 Beispiel: Auge mit 3 Sehzellen NeuroLabMartin Reiche 20149

10 Netzwerk zur Erkennung NeuroLabMartin Reiche Netzhaut Output-Neurone Schwellwert- funktion ? ? ? ? ? ? ? ? ? 0,8 Input-Neurone Gehirn

11 Bedeutsame Bilder A, B, C NeuroLabMartin Reiche Wie müssen die Synapsengewichte gewählt werden, damit das Netzwerk die gewünschte Reaktion zeigt? (Bei allen anderen Mustern soll kein Output erfolgen)

12 Lösung NeuroLabMartin Reiche Netzhaut Output-Neurone Schwellen- funktion 0,5 -0,5 0,5 0,3 -0,3 0,3 1 -0,3 0,8 Input-Neurone Gehirn

13 Modell des Gedächtnisses Die Frage: Wie wird Gelerntes im Gehirn gespeichert? Beantworten wir: Das Gelernte steckt in den Synapsengewichten! Nächste Frage: Wie kommt es dahin? NeuroLabMartin Reiche

14 Lernregel nach Hebb (1949) NeuroLabMartin Reiche Sind zwei miteinander verbundene Neuronen gleichzeitig aktiv, so verstärkt sich die synaptische Verbindung zwischen ihnen. Diese Regel konnte an natürlichen Neuronen experimentell nachgewiesen werden!

15 Kohonen-Netzwerk NeuroLabMartin Reiche

16 Kohonen-Netzwerk NeuroLabMartin Reiche Kohonen-Schicht (rot) Eingangsschicht (blau)

17 Lernen im Kohonen-Netzwerk Man definiert Trainingsmuster, die wiedererkannt werden sollen. Diese Muster werden wiederholt auf die Eingangsschicht gelegt. Nach jedem Schritt wird die Hebbsche Lernregel angewendet. NeuroLabMartin Reiche

18 Lernen in NeuroLab NeuroLabMartin Reiche Synapsengewichte auf Zufallswerte setzen Ein Trainingsmuster zufällig wählen Neuron mit maximaler Erregung = gewinnendes Neuron (GN) finden Synapsengewichte des GN sowie seiner Nachbarn gemäß der Hebbschen Regel etwas an das Trainingsmuster anpassen Lernrate und Kopplungsradius verringern Start

19 Kohonen-Netzwerk Die Eingangsneuronen stehen in keinem Nachbarschaftsverhältnis zueinander. Ihre Anordnung ist bedeutungslos. Benachbarte Neuronen der Kohonen- Schicht dagegen erregen sich gegenseitig. Diese Erregung nimmt mit der Entfernung ab. (Mexican Hat) Modellvereinfachung: Letztere 2 Punkte treffen nur für den Lernvorgang zu. (Der erste Punkt gilt immer) NeuroLabMartin Reiche

20 Lernen in NeuroLab C# Quellcode NeuroLabMartin Reiche Für alle Neuronen der Kohonenschicht und alle Eingabeneuronen i,j: w[i,j] += hat * eps * (iL.eNorm[i,j] - w[i,j]); Wirkung: Die Synapsengewichte w des Neurons werden ein Stück in Richtung des Eingabemusters iL.eNorm verschoben.

21 Lernen in NeuroNet Die Neuronen der Kohonenschicht organisieren sich: NeuroLabMartin Reiche Einzelne Neuronen werden durch bestimmte Eingangsmuster erregt, sie repräsentieren diese. Ähnliche Eingangsmuster erregen benachbarte Bereiche. Es entstehen Karten.

22 Lernen in NeuroNet: somatotopische Karte (1) NeuroLabMartin Reiche Eingangsversuch: Beschreibe den Handteller deines Nachbarn - der die Augen geschlossen hält - mit den Buchstaben eines Wortes. Er wird dir das Wort sagen können. Was muss da funktioniert haben? Im Kopf muss eine Abbildung des Handtellers existieren, von der das Gehirn die Buchstaben ablesen kann. Diese Abbildung kann aber von Geburt an nicht existieren, denn dazu müsste eine exakte Verdrahtung der afferenten Neurone erfolgen. Die gibt es nicht.

23 Lernen in NeuroNet: somatotopische Karte (2) NeuroLabMartin Reiche Aber was man nicht kann, kann man ja lernen! Das Gehirn macht sich die Tatsachen zunutze, dass typischerweise immer mehrere Sensoren zeitgleich aktiviert werden. Das dient dem Gehirn als Hinweis auf Nachbarschaft. So puzzelt sich das Gehirn im Laufe tausender Berührungen an der Körper- oberfläche eine Karte zusammen, die sogenannte somatotopische Karte. Ähnliches geschieht auch beim Sehen und Hören (retinotopische und tonotopische Karten)

24 Lernen in NeuroNet: somatotopische Karte (3) NeuroLabMartin Reiche Eine 5x5 Eingangsschicht wird mit einer 10x10 Kohonenschicht verbunden. Die Neuronen der Eingangsschicht sollen den Tastsinn von 5x5 benachbarten Hautbereichen, z.B. des Handtellers darstellen. Nun berühren wir den Handteller mit bestimmten Mustern und erwarten, dass sich in der Kohonenschicht eine somatotopische Karte einstellt.

25 Lernen in NeuroNet: somatotopische Karte (4) NeuroLabMartin Reiche Der Eingangsschicht werden tausende Male folgende Muster präsentiert:

26 Lernen in NeuroNet: somatotopische Karte (5) NeuroLabMartin Reiche Nach der Lernphase werden die Eingangsneuronen wie folgt abgebildet: ae uy a e y u


Herunterladen ppt "Kohonen-Feature-Map Selbstorganisierende Neuronale Netze NeuroLabMartin Reiche 20141 Achtung: Wir machen viele Vereinfachungen!"

Ähnliche Präsentationen


Google-Anzeigen