Die Präsentation wird geladen. Bitte warten

Die Präsentation wird geladen. Bitte warten

Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung „Evolutionsstrategie I“ Nichtlineare Theorie der (1,  ) - Evolutionsstrategie Fortschritt und Erfolg.

Ähnliche Präsentationen


Präsentation zum Thema: "Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung „Evolutionsstrategie I“ Nichtlineare Theorie der (1,  ) - Evolutionsstrategie Fortschritt und Erfolg."—  Präsentation transkript:

1 Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung „Evolutionsstrategie I“ Nichtlineare Theorie der (1,  ) - Evolutionsstrategie Fortschritt und Erfolg am Kugelmodell

2 D ARWIN s Denkschema in maximaler Abstraktion Genauere Nachahmung der biologischen Evolution

3 Basis-Algorithmus der (1,  ) - Evolutionsstrategie

4 mit Ergebnis der linearen Theorie Tabelle der Fortschrittsbeiwerte 10 20,5642 30,8463 41,0294 51,1630 61,2672 71,3522 81,4236 91,4850 101,5388 111,5864 121,6292 131,6680 141,7034 151,7359 161,7660 171,7939 181,8200 191,8445 201,8675 211,8892 221,9097 231,9292 241,9477 251,9653 261.9822 271,9983 282,0137 292,0285 302,0428 352,1066 402,1608 452,2077 502,2491 552,2860 602,3193 652,3496 702,3774 802,4268 902,4697 1002,5076 2002,7460 3002,8778 4002,9682 5003,0367 6003,0917 7003,1375 8003,1768 9003,2111 10003,2414 Fortschrittsbeiwert n   Zur Erinnerung Manko der linearen Theorie:

5 Von der linearen Theorie zur nichtlinearen Theorie   lin   kug Einfachste isotrope nichtlineare Funktion

6 Zur Erinnerung Bergsteigen der Evolution Qualität / Fitness  Fittness-Landschaft

7 a Für q << r darf a auf x 1 projiziert werden Mutation der Variablen x 2 bis x n Der bis auf x 1 mutierte Nachkomme N‘ erleidet den Rückschritt a Eine geometrische Betrachtung für n >> 1 Es werde q so um die x 1 -Achse gedreht, dass der q- Pfeil in der Bildschirmebene liegt Wir sind frei in der Wahl des Koordinatensystems. Deshalb wählen wir die Koordinaten so Achtung: x 1 wird zunächst ausgelassen

8 Vergleich der theoretischen Ergebnisse am Kugelmodell Die genauere Nachahmung der biologischen Evolution mit Nachkommen führt überraschend zu einer einfacheren Formel als die simple (1 + 1) -ES.

9 Bestimmung von Dimensionsloser Fortschritt 

10 Tabelle des maximalen Fortschritts 20,1592 30,3581 40,5298 50,6762 60,8029 101,1839 201,7437 502,5292 1003,1440 10005,2535 parallel

11 Tabelle des maximalen Fortschritts 20,15920,0796 30,35810,1194 40,52980,1325 50,67620,1352 60,80290,1338 101,18390,1184 201,74370,0872 502,52920,0506 1003,14400,0314 10005,25350,0053 parallel seriell 0,1352 Maximum

12 Optimale Erfolgswahrscheinlichkeit 20,15920,07960,393 30,35810,11940,341 40,52980,13250,309 50,67620,13520,286 60,80290,13380,269 101,18390,11840,227 201,74370,08720,181 502,52920,05060,135 1003,14400,03140,109 10005,25350,00530,053 parallel seriell 0,1352 1 : 3,5

13 (1 + 1) - ES versus (1, ) - ES Vergleich der maximalen Fortschrittsgeschwindigkeiten am Kugelmodell bei seriellem Arbeiten

14 Das dimensionslose Fortschrittsgesetz mitund folgt das zentrale Fortschrittsgesetz Dimensionslose Fortschrittsgeschwindigkeit Dimensionslose Schrittweite Text

15

16 Das Fortschrittsfenster der Evolutionsstrategie am Kugelmodell hat eine allgemeinen Erkenntniswert. Man könnte, wenn auch politisch verdreht, wie folgt argumentieren: Rechts vom Evolutionsfenster sitzen die Revolutionäre und links davon die Erzkonservativen. Bei den Revolutionären gibt es Rückschritt, bei den Konservativen kommt es zu Stagnation. Sich für die richtige Schrittweite zu entscheiden; das ist die Kunst, die für den Politiker, Manager und Ingenieur gleichermaßen wichtig ist. Die Linken Die Rechten Französische Nationalversammlung 1789

17 Algorithmus der (1,  ) – Evolutionsstrategie mit MSR ! Die Schrittweite, die mehr im Zentrum des Evolutionsfensters liegt, überlebt!

18 Logarithmische Normalverteilung z normalverteilt Flächengleich

19 Methoden zur Erzeugung der Variationen  Für gerade (z. B. = 10) Für durch 3 teilbar (z. B. = 9) Für beliebig (im Programmiermodus) IF RND <.5 THEN  i =  ELSE  i = 1/  Determinisierung Text

20 Determinisierte mutative Schrittweitenregelung am Kugelmodell Computer-Demonstration

21 M ATLAB -Programm der (1 + 1) ES v=100; d=1; xe=ones(v,1); qe=sum(xe.^2); for g=1:1000 xn=xe+d*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qe qe=qn; xe=xn; d=d*1.3; else d=d/(1.3^0.25); end semilogy(g,qe,'b.') hold on; drawnow; end Zur Erinnerung

22 M ATLAB -Programm der (1,  ) ES

23 v=100; kk=10; de=1; xe=ones(v,1); Variablenzahl, Nachkommenzahl, Startschrittweite und Variablen- werte des Start-Elters ones(m,n): Vektor/Matrix der Dimension m × n mit nur Einsen Nur eine Spalte

24 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 end Erzeugen der Generationenschleife

25 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; end Initialisierung der Qualität im Bestwert-Zwischenspeicher auf nicht verschlechterbaren Wert

26 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk end Generierung der Nachkommenschleife

27 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end end end Deterministische Variation der Mutationsschrittweite

28 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); end end Erzeugung eines mutierten Nachkommen

29 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); end end Bestimmung der Qualität des mutierten Nachkommen

30 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:10 if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qb qb=qn; db=dn; xb=xn; end end Bei Q -Verbesserung Zwischen- speicherung der Qualität, Schritt- weite und Variablenwerte

31 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qb qb=qn; db=dn; xb=xn; end qe=qb; de=db; xe=xb; end Nachkomme aus dem Bestwert- Zwischenspeicher wird zum Elter der nächsten Generation

32 M ATLAB -Programm der (1,  ) ES v=100; kk=10; de=1; xe=ones(v,1); for g=1:1000 qb=1e+20; for k=1:kk if rand < 0.5 dn=de*1.3; else dn=de/1.3; end xn=xe+dn*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qb qb=qn; db=dn; xb=xn; end qe=qb; de=db; xe=xb; semilogy(kk*g,qe,'b.') hold on; drawnow; end Darstellung der Qualität als Funktion des seriellen Aufwands Kinderzahl x Generationen

33 Erproben des Programms in M ATLAB Kopieren Sie das Programm der vorangegangenen Folie. Öffnen Sie M ATLAB und klicken Sie in der Taskleiste auf „File/New/Script“. Fügen Sie das Programm ein und klicken Sie auf das Symbol „Save and Run“ (Speichern). Ändern Sie die Zahl der Kinder von 10 auf 5 [ kk = 5 ] und die Zahl der Generationen von 1000 auf 2000 [ g = 1 : 2000 ]. Ändern Sie die Kurvenfarbe von blau auf rot [ semilogy(g,qe,′r.') ]. Sie werden mit der gleichen Zahl von Funktionsaufrufen g × kk = 10000 vielleicht etwas näher an das Optimum herankommen. Wiederholen sie die Prozedur für: [ g = 1 : 3333 ], [ kk = 3 ], [ semilogy(g,qe,‚g.') ] [ g = 1 : 500 ], [ kk = 20 ], [ semilogy(g,qe,‚y.') ] Das Ergebnis: Bei 5 Nachkommen [ k = 1 : 5 ] sollten Sie bei der seriellen Arbeitsweise des Rechners dem Optimum (Nullpunkt) am nächsten kommen. MATLAB R2010a

34 Drei Fragen zu Beginn eines ES-Experiments 1. Frage nach dem Startpunkt ? 2. Frage nach der Startschrittweite ? 3. Frage nach der Versuchsdauer ? Abgeschlossener Variablenraum

35 Abstand D zweier Zufallspunkte im Quadrat im Hyperkubus D sehr verschieden D nahezu konstant Eine Zwischenbetrachtung

36 Theorie: Abstand zweier Zufallspunkte X und Y im Hyperkubus l l l D X Y

37 Simulation im 600-dimensionalen Hyperwürfel der Kantenlänge l = 20 D 1 =198,23 D 2 =201,25 D 3 =199,61 D 4 =209,62 D 5 =205,05

38 Aus der Theorie „Abstand zweier Zufallspunkte und im Hyperkubus“ folgt l l l D Wir wissen nicht wo das Ziel liegt, d. h. es kann an jeder Stelle mit gleicher Wahrscheinlichkeit liegen. Start Ziel Wir nehmen eine isotrope Quadrik (= Kugelmodell) als Qualitätsfunktion im Suchraum des Hyperwürfels an D = Start-Ziel -Entfernung Das Ziel kann dann als ein Zufallspunkt 1 aufgefasst werden. Jeder Startpunkt ist gleich gut/schlecht. Wir starten deshalb auch an einem Zufallspunkt 2.

39 Kantenlänge des Hyperwürfels = l Zufallsstart mit

40 ES-Suchschlauch im Kugelmodell für n ≈ 900 r Die Geschwindigkeit ist an jeder Stelle bekannt, wenn die Schrittweitenregelung der Evolutionsstrategie richtig arbeitet.

41 Zur Ableitung der Generationsformel Es möge   immer im Maximum laufen folgt Aus Erlaubter relativer Fehler bezogen auf die Stelllänge oder Text Genauigkeit

42 Ende www.bionik.tu-berlin.de

43 In der Formel ist die Fortschrittsgeschwindigkeit  eine Funktion von der Variablenzahl n, dem Höhenlinien-Krümmungsradius r, der Mutationsstreuung  und der Nachkommenzahl. Nur eine riesige Schar von Diagrammen könnte den Zusammenhang grafisch veranschaulichen. In der dimensionslosen Form mit den universellen Parametern   und  ist der Zusammenhang in einem einzigen Diagramm darstellbar.

44 Die Verwendung von logarithmisch normalverteilten Zufallszahlen für die Schritt- weitenmutationen gewährleistet erstens, dass keine sinnlosen negativen Schritt- weiten entstehen können und dass zweitens multiplikative Symmetrie herrscht. Schrittweiten werden genauso häufig verdoppelt wie halbiert, genauso häufig verdreifacht wie gedrittelt usw. Bei der Determinisierung der Schrittweitenmutationen wird diese multiplikative Symmetrie genau gleich auf die Nachkommen aufgeteilt.

45 Wer mit dem Auto von Berlin Frohnau zum Kurfürstendamm in Berlins Innenstadt fahren möchte und ausrechnen möchte, wie lange die Fahrt dauert, muss a) wissen, wie viele Kilometer es bis zum Kudamm sind und b) wissen, wie schnell auf jedem Streckenabschnitt gefahren werden kann. Genauso ist es auch bei der Vorausberechnung der Generationszahl für eine ES-Optimierung. Die Entfernung zum Ziel ist bekannt: Es ist die Distanz zweier Zufallspunkte in einem Hyper- würfel als Suchraum, wenn voraussetzungsgemäß der Startpunkt zufällig gewählt wird, und wenn das Ziel - weil unbekannt - als zweiter Zufallspunkt interpretiert wird. Es werde angenommen, dass der Suchraum durch eine isotrope Quadrikfunktion (Kugelmodell) ausgefüllt wird. Funktioniert die mutative Schrittweitenregelung, dann ist die Fortschrittsge- schwindigkeit der ES an jeder Position während der Zielannäherung bekannt (  =   max ). Daraus folgt: Es lässt sich eine Mindestgenerationszahl für die Lösung des Optimierungspro- blems ausrechnen.


Herunterladen ppt "Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung „Evolutionsstrategie I“ Nichtlineare Theorie der (1,  ) - Evolutionsstrategie Fortschritt und Erfolg."

Ähnliche Präsentationen


Google-Anzeigen