Die Präsentation wird geladen. Bitte warten

Die Präsentation wird geladen. Bitte warten

Adaptive Systeme Prof. Rüdiger Brause WS 2011 Organisation Einführung in adaptive Systeme B-AS-1, M-AS-1 Vorlesung Dienstags 10-12 Uhr, SR9 Übungen Donnerstags.

Ähnliche Präsentationen


Präsentation zum Thema: "Adaptive Systeme Prof. Rüdiger Brause WS 2011 Organisation Einführung in adaptive Systeme B-AS-1, M-AS-1 Vorlesung Dienstags 10-12 Uhr, SR9 Übungen Donnerstags."—  Präsentation transkript:

1

2 Adaptive Systeme Prof. Rüdiger Brause WS 2011

3 Organisation Einführung in adaptive Systeme B-AS-1, M-AS-1 Vorlesung Dienstags Uhr, SR9 Übungen Donnerstags Uhr, SR 9 Adaptive Systeme M-AS-2 Vorlesung Donnerstags Uhr, SR9 Übungen Donnerstags Uhr, SR 9 Gemeinsames Übungsblatt, unterteilt in 2 Teile Ausgabe: Dienstags, Abgabe: Dienstags Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS

4 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Vorschau Themen 1.Einführung und Grundlagen 2.Lernen und Klassifizieren 3.Merkmale und lineare Transformationen 4.Lokale Wechselwirkungen: Konkurrentes Lernen 5.Netze mit RBF-Elementen 6.Rückgekoppelte Netze 7.Zeitdynamik und Lernen 8.Fuzzy-Systeme, Evolutionäre und genetische Algorithmen 9.Simulationstechnik

5 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Arten von Adaptiven Systeme Vorbild Gehirn Neuronale Netze Psychologisch-kognitive Modelle Biologische Systeme Evolutionäre Systeme Schwarm-Intelligenz: Ameisen-Algorithmen,... Molekular-genetische Selbstorganisation Soziale Systeme Gruppenprozesse Soziale Selbstordnung Physikalische Systeme Synergieeffekte Technische Systeme

6 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Selbst-anpassende Systeme ̶ statt programmieren Beispiel: Temperaturregler statt fester Heizeinstellung Lernende Systeme Trainierte Systeme (Trainingsphase-Testphase) Selbstlernende Systeme (Orientierung an Daten) Einleitung: Was sind Adaptive Systeme ? Heizung Vorgabe Adapt. Regelung Sensor

7 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Wozu Adaptive Systeme ? Adaptive Schätzung von Prozeßparametern Nicht-lin. Reaktionen, Produktionsoptimierung,.. Adaptive Kontrolle und Regelung Landekontrollsysteme, Roboterkontrolle,.. Adaptive Klassifikation Qualitätskontrolle, med. Diagnose, Bonitätsprüfung,..

8 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Einsatzgebiete Adaptiver Systeme Echtzeitreaktionen Stahlwalzstraßen, Flugzeugsteuerung,.. Analytisch unbekannte Abhängigkeiten Polymerchemie, DNA-Schätzungen,.. Analytisch nicht zugängige Abhängigkeiten psychische Faktoren, ergebnisverändernde Messungen,.. Analytisch nur unter großem Aufwand bearbeitbare, hochdimensionale Gesetzmäßigkeiten Wechselkursabhängigkeiten,.. Statistische Analysen durch untrainierte Benutzer (?!)

9 Klassifizierung Grundlagen Modellierung Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS

10 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Vorbild Gehirn

11 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Das Vorbild: Gehirnfunktionen Unterteilung des Gehirns in funktionale Bereiche Gehirn = 2-dim Tuch

12 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Das Vorbild: Gehirnfunktionen Unterteilung der Neuronenschicht: Darstellungsarten

13 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Das Vorbild: Gehirnfunktionen Neuronentypen a)-c) Pyramidenzellen f,h) Stern/Glia zellen

14 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Das Vorbild: Gehirnfunktionen Pyramidalzellen

15 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Spikes Das Vorbild: Gehirnfunktionen Signalverarbeitung Output

16 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Das Vorbild: Gehirnfunktionen Signalverarbeitung Input Ruhe- potential Eingabe Zellkern Frequenzmodulierung Dekodierung Einheitsladungen Zell-Potential ~ Eingabe-Spikefrequenz

17 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Das Vorbild: Gehirnfunktionen Signalverarbeitung Input-Output Tintenfisch-Riesenneuron: Ausgabe-Spikefrequenz ~ Zellstrom Lineares Modell Zell-Potential ~ Eingabe-Spikefrequenz Ausgabe-Spikefrequenz ~ Zellstrom Ausgabe-Freq. ~ Eingabe-Freq.

18 Klassifizierung Grundlagen Modellierung Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS

19 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Modellierung Informatik: Granularität Paralleler Aktivität Grob: Computer, Jobs (Lastverteilung) wenig Komm. Fein: Multi-CPU, Threads viel Komm. Sehr fein: formale Neuronen, Funktionen sehr viel Komm

20 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Modellierung formaler Neuronen x 1 x 2 x 3 w 1 w 2 w 3 y z Akti- vierung Ausgabe (Axon) Gewichte (Synapsen) Eingabe (Dendriten) x = (x 1,...,x n ) w = (w 1,...,w n ) Dendriten Axon Zell körper Synapsen y = S(z) z = = w T x squashing function radial basis function Ausgabefunktionen

21 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Formale Neuronen Code-Beispiel formales Neuron float z (float w[ ],float x[ ] ) { /* Sigma-Neurons: Aufsummieren aller Eingaben */ float sum; sum = 0; /* Skalarprodukt bilden */ for (int i=0;i s) z = Zmax; if (z<-s) z =-Zmax; return z; } Aktivität Ausgabe

22 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS DEF Schicht Schichten

23 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Modellierung der Netze Feed-forward vs. Feedback-Netze DEF feedforward Netz der gerichtete Graph ist zyklenfrei Problem: feedforward oder nicht?

24 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS lineare Schicht Lineare Transformation mit NN y = = W·x Matrix-Multiplikation

25 Klassifizierung Grundlagen Modellierung Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS

26 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Klassenbildung Erfahrung: Es gibt ähnliche Dinge, Arten, Klassen, z.B. Buchstabe A ? Woher kommt das ? Plato: Ideen angeboren Ideenlehre: Dinge in Reinstform von der Seele im Jenseits gesehen, Erfahrung davon = wie Schatten an einer Wand (Höhlenmetapher) Aristoteles: Ideen erworben Zuerst werden Dinge mit den Sinnen erfaßt, dann die Idee dazu entwickelt

27 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Klassenbildung: Beispiel Iris Iris Setosa Iris Virginica

28 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Klassenbildung heute Objekte werden durch Merkmale beschrieben z.B. qualitativ Mensch = (groß, braune Augen, dunkle Haare, nett,...) quantitativ Mensch = (Größe=1,80m, Augenfarbe=2, Haarfarbe=7,...) Idee = Form = Klassenprototyp Muster eines Objekts (Breite, Höhe) = x Breite c 2 Höhe c 1 Trennung von Klassen Blütensorte 1 Blütensorte 2 Klassenprototyp Klassifizierung = Ermitteln der Geradengleichung bzw Parameter c 1,c 2.

29 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Klassentrennung Breite x 1 c 2 Höhe x 2 c 1 Klassentrennung durch Trenngerade mit f(x 1 ) = x 2 = w 1 x 1 +w 3 z<0 z=0 bzw. z := w 1 x 1 +w 2 x 2 +w 3 x 3 = 0 z>0 mit w 2 :=-1, x 3 := 1 Mit z = = w T x Klassenentscheidung y = S(z) =

30 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Klassentrennung durch formales Neuron Klassentrennung durch binäres Neuron z = = w T x Klassenentscheidung y = S B (z) = z = w T x S B (z) y = 0: Klasse 1 y = 1: Klasse 2 x1x1 x2x2 x3x3 x n

31 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Trennung mehrerer Klassen Lineare Separierung xrxr xpxp xkxk xqxq x2x2 x1x1 (1,0) (0,0) (0,1) (1,1) 1 Neuron: 1 Trennlinie (Ebene) 2 Neurone: 2 Trennlinien (Ebenen) Bereiche trennbar in 4 Klassen (y1,y2)

32 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS Trennung mehrerer Klassen DEF Lineare Separierung Seien Muster x und Parameter w gegeben. Zwei Klassen 1 und 2 des Musterraums = 1 2 mit 1 2 = heißen linear separierbar, falls eine Hyperebene {x*} existiert mit g(x*) = w T x* = 0, so daß für alle x 1 gilt g(x)<0 und für alle x 2 gilt g(x)>0.

33 Rüdiger Brause: Adaptive Systeme, Institut für Informatik, WS WIE erhalten wir die richtigen Gewichte, d.h. die richtige Klassifizierung ? Lernen !


Herunterladen ppt "Adaptive Systeme Prof. Rüdiger Brause WS 2011 Organisation Einführung in adaptive Systeme B-AS-1, M-AS-1 Vorlesung Dienstags 10-12 Uhr, SR9 Übungen Donnerstags."

Ähnliche Präsentationen


Google-Anzeigen