Die Präsentation wird geladen. Bitte warten

Die Präsentation wird geladen. Bitte warten

Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung Bionik II / Biosensorik Organisches Rechnen (Organic Computing) Struktur und Arbeitsweise neuronaler.

Ähnliche Präsentationen


Präsentation zum Thema: "Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung Bionik II / Biosensorik Organisches Rechnen (Organic Computing) Struktur und Arbeitsweise neuronaler."—  Präsentation transkript:

1

2 Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung Bionik II / Biosensorik Organisches Rechnen (Organic Computing) Struktur und Arbeitsweise neuronaler Netzwerke

3 Entwicklung Neuronaler Netze Ein Meilenstein der Bionik

4 Anwendung neuronaler Netze: Mustererkennung, Bildverarbeitung, Robotik, Prozessautomatisierung, Diagnose, Medizin, Betriebswirtschaft, Finanzdienstleistungen Wissensverarbeitung

5 Neuronales Netz

6 Eingangsneuronen Zwischenneuronen Ausgangsneuron Neuronales Netz

7 Eigenheiten einer Nervenzelle Schwellverhalten des Encoders Impulsfortleitung Zeitverhalten der Synapse

8 Streichung des Schwellverhaltens des Encoders Neuron 0. Ordnung Spannungshöhe statt Impulse Streichung des Zeitverhaltens der Synapse

9 Neuron 0. Ordnung (Technische Realisierung)

10 Neuron 1. Ordnung Spannungshöhe statt Impulse Streichung des Zeitverhaltens der Synapse Streichung des Schwellverhaltens des Encoders aufgehoben !

11 (Technischen Realisierung) Neuron 1. Ordnung (a) UeUe UaUa UeUe UaUa

12 (Technischen Realisierung) Neuron 1. Ordnung (b) UeUe UaUa UaUa UeUe

13 Neuron 2. Ordnung Impulsfortleitung Spannungs- Frequenzwandler mit Schwelle Verzögerungs- glied 1. Ordnung

14 Neuron 2. Ordnung (Technische Realisierung) Berliner Bionik-Neuron U U F F VZ1

15 Reduktionsgesetz für eine Neuronales Netz 0. Ordnung

16 Donald O. Hebb ( ) H EBB -Regel Häufiger Gebrauch einer Synapse macht diese stärker leitfähig !

17 Frank R OSENBLATT s Perceptron Neuronales Netz 1. Ordnung (a) 2-schichtig mit springendem U e -U a -Verhalten und diskreter Verstellung der Gewichte UeUe UaUa

18 Regel 1: Wenn die Reaktion falsch als 0 klassifiziert wird, dann Gewichte der aktiven Eingänge um +1 erhöhen. Regel 2: Wenn die Reaktion falsch als 1 klassifiziert wird, dann Gewichte der aktiven Eingänge um -1 erniedrigen statt 1 1 statt 0 Die Perceptron Lernregel

19 Lernregel: Back Propagation Evolutionsstrategie UeUe UaUa Heute Neuronales Netz 1. Ordnung (b) 3-schichtig mit sigmoidem U e -U a -Verhalten und konti- nuierlicher Verstellbarkeit der Gewichte

20 Die sigmoide Kennlinie wird durch die Fermi-Funktion beschrieben: x y Sie zeichnet sich durch die besondere mathematische Eigenschaft aus: UeUe UaUa

21 Training mit Backpropagation

22 Neuron 1: Neuron 3: Neuron 2: Neuron i : Fermi net i awawnet awawnet awawnet w 46 a5a5 w 24 w 35 a2a2 a3a3 a1a1 w 13 w 14 w 23 w 45 w a4a4 a6a6 Einfachstes 3-schichtiges Neuronales Netz

23 Fehler: Soll Ist Angenommen, die 8 Gewichte können über Zahnräder eines Getriebes verstellt werden. Dann gibt es eine Übersetzung für jedes Zahnrad, bei der sich F maximal schnell ver- mindern würde, wenn wir an der Hauptwelle drehen. Die Übersetzungen sind gleich den Ableitungen von F nach den Gewichten w. w 46 a5a5 w 24 w 35 a2a2 a3a3 a1a1 w 13 w 14 w 23 w 45 w a4a4 a6a6 Getriebeübersetzung für 13 w Δ w F w Getriebeübersetzung für 35 w Δ w F w = Schrittweite

24 Bei den richtigen Getriebeübersetzungen folgt man dem Gradientenweg zum Minimum. Getriebefaktor (Gewichtsänderung) für

25 Weg der Rechnung 1. Vorwärtsrechnung zur Bestimmung von und Fehler w 46 a5a5 w 24 w 35 a2a2 a3a3 a1a1 w 13 w 14 w 23 w 45 w a4a4 a6a6

26 w 45 w 46 w 35 w 14 w 23 w 24 2 w 13 Weg der Rechnung 1. Vorwärtsrechnung zur Bestimmung von und Fehler 2. Rückwärtsrechnung zur Bestimmung von bis 13 Δ w 24 Δ w 14 Δ w 23 Δ w 35 Δ w 46 Δ w 36 Δ w 45 Δ w a2a2 a1a Δ w 46 Δ w

27 Weg der Rechnung 1. Vorwärtsrechnung zur Bestimmung von und Fehler 2. Rückwärtsrechnung zur Bestimmung von bis 3. Einstellung der neuen Gewichte bis w 46 w 24 w 35 a2a2 a1a1 w3w3 w 14 w 23 w 45 w Δ w 46 Δ w 13 w 46 w z. B. 35)( )( Δ www altneu

28 Training mit der Evolutionsstrategie

29 w 46 a5a5 w 24 w 35 a2a2 a3a3 w 13 w 14 w 23 w 45 w a4a4 a6a6 a1a1 Mutieren der Gewichte bis 1 Bestimmung des Fehlers 3 Durchlaufen des Netzes zur Bestimmung von und 2 Die Operation wird -mal durchgeführt (= 1 Generation). Dann wird das Netz mit dem kleinsten Fehler zum Ausgang einer neuen Generation.

30 Es sei w ein Vektor mit den Komponenten

31 Algorithmus der (1, ) – Evolutionsstrategie mit MSR -Würfel z -Würfel

32 Mutation der Mutabilität und Vererbbarkeit der Mutabilität Knackpunkt der Evolutionsstrategie DNA-Kopierer DNA -Mutation z -Mutation

33 w zizi 0 1 w i Zur Erzeugung der Mutationen z und Interpretetion der Kurve: Eine Zufallszahl zwischen 1/2 und 1/3 ist genau so häufig wie zwischen 2 und 3 logarithmisch normalverteilt (Dichte ) normalverteilt (Dichte z )

34 ES-Theorie: 20% Erfolgswahscheinlichkeit Von-Neumann-Computer versus Neuronencomputer Mutation Verbesserung unwahrscheinlich

35 Kausalität Schwache Kausalität Starke Kausalität Gleiche Ursache Gleiche Wirkung Ähnliche Ursache Andere Wirkung Ähnliche Ursache Ähnliche Wirkung

36 Schwach kausales Verhalten Stark kausales Verhalten Klassischer Computer Neuronencomputer Nicht evolutionsfähig Evolutionsfähig

37 Ende


Herunterladen ppt "Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung Bionik II / Biosensorik Organisches Rechnen (Organic Computing) Struktur und Arbeitsweise neuronaler."

Ähnliche Präsentationen


Google-Anzeigen