PowerPoint-Folien zur 9. Vorlesung „Evolutionsstrategie I“ Ingo Rechenberg PowerPoint-Folien zur 9. Vorlesung „Evolutionsstrategie I“ Finale Theorie der Evolutionsstrategie mit m Eltern und l Nachkommen Nicht kommerzielle Weiterverwendung für die Lehre gestattet

DARWINs Denkschema in maximaler Abstraktion Genauere Nachahmung der biologischen Evolution Noch genauere Nachahmung der biologischen Evolution

(m , l)-ES m = 2 l = 7 ES mit mehreren Eltern und Nachkommen

Basis-Algorithmus der (m , l ) - Evolutionsstrategie B1 = Qualitätsmäßig bestes Individuum B2 = Qualitätsmäßig 2. bestes Individuum Bm = Qualitätsmäßig m . bestes Individuum Text

Lineare Theorie der (m , l ) - Evolutionsstrategie = Linienfortschritt j lin Der Fortschrittsbeiwert kann bislang nicht berechnet werden. Was tun ?

Eine Anekdote 1 2 3 : Die antike griechische Mathematik war noch nicht in der Lage, die Volumina der Körper zu berechnen. Aber die Vermutung, dass sich die Volumina Kegel zu Halbkugel zu Zylinder wie 1 : 2 : 3 verhalten lag in der Luft. Der junge Archimedes hat eine geniale Idee: Er lässt sich in der Tischlerwerkstatt der Universität aus Holz drei Kegel, eine Halb-kugel und einen Zylinder fertigen. Alle Körper haben die gleiche Kreis-Grundfläche und die gleiche Höhe. Archimedes kündigt einen Vortrag mit dem Titel „Über die Volumina runder Körper“ an. Archimedes

Eine gewaltige Spannung bemächtigt sich der Zuhörer; schließ-lich hat jeder von ihnen mit dem Problem gerungen. War es möglich, dass dieser noch unbekannte junge Mann die Lösung gefunden hatte? Man wagt kaum zu atmen. Und was macht Archimedes? – Er beginnt mit einer Waage zu hantieren. Zunächst bringt er die drei Kegel mit dem Zylinder ins Gleichgewicht. Dann vertauscht er zwei seiner Kegel mit der Halbkugel. Schließlich wiegt er zwei Kegel mit einer Halbkugel auf. Kein dröhnender Applaus. Eisiges Schweigen! Der erst 14-jährige Apollonius von Perge - trotz Ju-gend schon ein berühmter Mathematiker - erhebt sich und spricht: „Euer Magnifizenz, geehrte Kolle-gen. Ich stelle den Antrag, dass Archimedes für immer der Universität verwiesen werde, da er den Geist der Mathematik mit schmutziger Materie besudelt hat.“ Archimedes kehrt nach Syrakus zurück.

Linearer Fortschritt: auf einem Computer auswiegen Linearer Fortschritt: m l 1 2 3 4 5 6 7 8 9 10 12 14 16 18 20 0,00 0,56 0,85 0,50 1,03 0,75 0,44 1,16 0,91 0,67 0,40 1,27 0,83 0,61 0,37 1,35 1,13 0,94 0,76 0,57 0,35 1,42 1,22 1,04 0,87 0,71 0,54 0,33 1,49 1,29 1,12 0,96 0,82 0,31 1,54 1,19 0,90 0,77 0,63 0,47 0,30 1,63 1,45 1,30 1,17 0,93 0,81 0,69 0,43 1,70 1,53 1,39 1,26 1,15 1,05 0,95 0,84 0,74 0,64 1,77 1,60 1,34 1,23 1,14 0,86 0,78 0,59 1,82 1,66 1,41 1,31 0,89 0,72 0,55 1,87 1,71 1,58 1,47 1,37 1,20 0,98 0,68 0,52 30 2,04 1,90 1,78 1,69 1,33 1,06 50 2,25 2,12 2,01 1,93 1,85 1,79 1,73 1,68 1,62 1,57 100 2,51 2,39 2,30 2,22 2,16 2,10 2,05 2,00 1,96 1,92 1,67 200 2,75 2,64 2,55 2,49 2,43 2,38 2,34 2,29 2,26 2,11 2,06 1,97 300 2,88 2,78 2,69 2,63 2,58 2,53 2,45 2,41 2,32 2,27 2,23 2,19 2,15 500 3,04 2,94 2,86 2,80 2,71 2,67 2,60 2,57 2,52 2,47 2,36 1000 3,24 3,15 3,08 3,03 2,98 2,93 290 2,84 2,81 2,76 2,72 2,68 2,65 2,61 Im Jahr 1969 mit dem Rechner PDP -10 „ausgewogen“. – Rechenzeit: 730 Stunden !

langsamer als eine (1, l) - ES Feststellung: Eine (m, l) - ES ist langsamer als eine (1, l) - ES Statt vom vordersten Punkt (dem Spitzenelter) wird auch von weiter hinten aus (dem zweitbesten, drittbesten, … Nachkommen) mutiert. Die schlechteren Eltern müssen hinterher geschleppt werden.

Von der linearen zu nichtlinearen Theorie j lin j kug

a Eine geometrische Betrachtung für n >> 1 Der bis auf x 1 mutierte Nachkomme N‘ erleidet den Rückschritt a Alle bis auf x 1 mutierten Nachkommen N‘ erleiden den Rückschritt a Für q << r darf a auf x 1 projiziert werden Mutation der Variablen x 2 bis x n a Projektion erlaubt wenn q << r Wir drehen q um die x1-Achse so, dass q in der Bildschirmebene liegt

Das dimensionslose Fortschrittsgesetz Dimensionslose Fortschrittsgeschwindigkeit Dimensionslose Schrittweite mit und folgt das zentrale Fortschrittsgesetz Text

Der Evolutions- Stratege

Fortschrittsfenster der (1 + 1) - Evolutionsstrategie Evolutionsfenster Fortschrittsfenster der (1 + 1) - Evolutionsstrategie

Elektromagnetisches Wellenspektrum Warum logarithmische Auftragung für die Schrittweite D ? Elektromagnetisches Wellenspektrum Einzig sinnvolle Skala Das gilt auch für die Mutationsschrittweite D ! Potenz einer Ionenaktivität

l Serielle Fortschrittsgeschwindigkeit Maximalwerte 1 2 0,0796 3 2 0,0796 3 0,1194 0,0417 4 0,1325 0,0703 0,0242 5 0,1352 0,0828 0,0449 0,0160 6 0,1338 0,0884 0,0574 0,0310 7 0,1306 0,0912 0,0631 0,0413 8 0,1267 0,0930 0,0676 0,0473 9 0,1225 0,0925 0,0697 0,0512 10 0,1184 0,0911 0,0708 0,0541 11 0,1144 0,0891 0,0556 12 0,1106 0,0876 0,0704 0,0570 13 0,1070 0,0860 0,0696 14 0,1036 0,0836 0,0690 0,0568 15 0,1004 0,0816 0,0677 0,0566 0,1352 0,0930 0,0708 0,0708 0,0570 0,0570

Maximale (serielle) Fortschrittsgeschwindigkeit: (1 + 1) - ES versus (m , l) - ES

Wir können den Schwerpunkt der erfolgreichen Nachkommen bilden Warum (m, l)-Evolutionsstrategie ? Wir können den Schwerpunkt der erfolgreichen Nachkommen bilden Und das wird sich als ein raffinierter evolutionsstrategischer Trick erweisen Denn die Nachkommen liegen „mal links, mal rechts“ neben dem Gradienten

Wir bilden den Schwerpunkt der besten Nachkommen mit den Variablenwerten . . .

Beziehungsweise wir bilden den Schwerpunkt-Elter mit den Variablenwerten Die arithmetrisch über m gemittelten Variab-len xi besitzen nach dem Additionstheorem der Normalverteilung die Streuung: . . . Berechnung des misslichen Querschritts Der Querschritt reduziert sich um den Faktor ! Was geschieht mit den über m gemittelten x1 Werten, die als m beste Eltern ausgelesen wurden und zu-sammen den Fortschritt ergeben ? Die einzelnen x1-Fortschritte werden zwar durch m dividiert, aber es werden dann m von ihnen, die ja alle mehr in der positiven Mutationsrichtung liegen, wieder addiert. Der Verlust durch Mittelung bleibt klein (siehe -Tabelle). Text

Linearer Fortschritt: aus Tabelle m l 1 2 3 4 5 6 7 8 9 10 12 14 16 18 20 0,00 0,56 0,85 0,42 1,03 0,66 0,34 1,16 0,83 0,55 0,48 1,27 0,95 0,70 0,25 1,35 1,06 0,82 0,62 0,23 1,42 1,14 0,92 0,73 0,38 0,20 1,49 1,21 1,00 0,65 0,50 0,35 0,19 1,54 1,07 0,89 0,74 0,60 0,46 0,32 0,17 1,63 1,37 1,18 1,02 0,88 0,75 0,63 0,51 0,39 0,27 1,70 1,46 1,12 0,99 0,87 0,76 0,45 0,24 1,77 1,53 1,20 1,08 0,96 0,86 0,67 0,58 0,40 0,22 1,82 1,59 1,41 1,15 1,04 0,94 1,85 0,68 0,52 0,36 1,87 1,64 1,47 1,33 1,11 0,93 0,77 0,33 0,18 30 2,04 1,83 1,67 1,55 1,45 1,13 0,53 50 2,25 2,05 1,91 1,80 1,71 1,62 1,43 1,10 100 2,51 2,33 2,20 2,10 2,02 1,95 1,88 1,78 1,73 1,65 1,57 1,50 1,44 1,39 Die Fortschrittsbeiwerte sind berechenbar und müssen nicht „ausgewogen“ werden

m a a a q m m m   Linien Fortschritt Alle bis auf x 1 mutierten Nach- kommen erleiden den Rück- schritt a und damit auch die µ besten (neue Eltern) Der bis auf x 1 mutierte Nachkomme erleidet den Rückschritt a Für q << r darf a auf x 1 projiziert werden m Mutation der Variablen x 2 bis x n Durch Addition der m normalverteilten Eltern (Additionstheorem !) und Division durch m (Schwerpunkt.) a a Linien Fortschritt a q

(m /r , l)-ES m = 2 r = 2 l = 8 ES mit Mischung der Variablen (Erbanlagen) von zwei Individuen

Intermediärer Vererbungsgang in der Natur Der Unterschied zur intermediären Vererbung in der Natur ist, dass bei der (m /m, l) -ES nicht zwei, sondern alle m El-tern ihre Variablenwerte mischen. Eine derartige Multi-Re-kombination gibt es in der Natur nur bei Viren (Phagen).

(m /r , l) - ES r = 2 (m /m , l) - ES r = m (m /m , l) - ES In der Natur werden die Erbanlagen von je zwei Individuen gemischt. In der Nomenklatur der ES wäre die Mischungszahl r = 2. (m /r , l) - ES r = 2 Nur Phagen (Viren, die in Bakterien leben) beherrschen die Technik der Multirekombination r = m . Das heißt, alle m Eltern mischen ihre Erbanlagen. (m /m , l) - ES r = m Multi-Mischung (Multirekombination) ist auf dem Computer nicht nur leicht durchführbar, sondern algorithmisch sogar einfacher zu programmieren. In der Theorie lässt sich nur der Fall r = m erfolgreich behandeln. Multirekombination liefert eine größere Fortschrittsgeschwindigkeit als die Zweier-Rekombination Nomenklatur (m /m , l) - ES (m, l) - ES oder Evolutionsstrategen arbeiten mit Multirekombination

Warum ( m , l ) - ES statt (1 + 1) - ES ? 1. Selbstadaptation der Mutationsschrittweite erfordert eine Gruppe konkurrierender Individuen (l > 1) 3. Die Einführung des Vererbungsfaktors „Chromosomen-Kreuzung“ erfordert mehrere Eltern ( m > 1) 2. Eine Population von Elternindividuen ( m > 1) ist robuster gegenüber Qualitätsrauschen (unscharfe Selektion) Nächste Vorlesung

Ende

1. m Eltern der Generation g erzeugen in zufälliger Folge insgesamt Der Algorithmus der - Evolutionsstrategie lautet verbal: 1. m Eltern der Generation g erzeugen in zufälliger Folge insgesamt l Nachkommen. Plus-Strategie: von den m + l Individuen werden die m besten zu Eltern der Generation g +1. Komma-Strategie: Streichen der Eltern der Generation g. Von den l Individuen werden die m besten zu Eltern der Generation g +1.

In der Formel ist die Fortschrittsgeschwindigkeit j eine Funktion von der Variablenzahl n, dem Höhenlinien-Krümmungsradius r, der Mutationsstreuung s , der Nachkommen-zahl l und der Elternzahl m . Das ist eine 5-dimensionale Mannigfaltigkeit. Nur eine unüberblickbare Schar von Diagrammen könnte den Zusammenhang grafisch veranschaulichen. In der dimensionslosen Form mit den universellen Parametern F und D ist der Zusammenhang in einem einzigen Diagramm darstellbar.

Das Additionstheorem der Normalverteilung: Werden k normalverteilte Zufallszahlen mit der Streuung s addiert, so ergibt sich eine neue Zufallszahl mit der Streuung