Ingo Rechenberg PowerPoint-Folien zur 9. Vorlesung „Evolutionsstrategie I“ Finale Theorie der Evolutionsstrategie mit   Eltern und Nachkommen

D ARWIN s Denkschema in maximaler Abstraktion Genauere Nachahmung der biologischen Evolution Noch genauere Nachahmung der biologischen Evolution

( , )-ES ES mit mehreren Eltern und Nachkommen = 7  = 2

Basis-Algorithmus der (  ,  ) - Evolutionsstrategie B1 = Qualitätsmäßig bestes Individuum B2 = Qualitätsmäßig 2. bestes Individuum B  = Qualitätsmäßig  . bestes Individuum Text Verschiedene Eltern !

  lin Lineare Theorie der (  ,  ) - Evolutionsstrategie Der Fortschrittsbeiwert kann bislang nicht berechnet werden. Was tun ? = Linienfortschritt

1 2 3 : : Der junge Archimedes hat eine geniale Idee: Er lässt sich in der Tischlerwerkstatt der Universität aus Holz drei Kegel, eine Halb- kugel und einen Zylinder fertigen. Alle Körper haben die gleiche Kreis-Grundfläche und die gleiche Höhe. Archimedes kündigt einen Vortrag mit dem Titel „Über die Volumina runder Körper“ an. Aber die Vermutung lag in der Luft, dass sich die Volumina Kegel zu Halbkugel zu Zylinder wie 1 : 2 : 3 verhalten. Die antike griechische Mathematik war noch nicht in der Lage, die Volumina der Körper zu berechnen. Archimedes Eine Anekdote

Eine gewaltige Spannung bemächtigt sich der Zuhörer; schließ- lich hat jeder von ihnen mit dem Problem gerungen. War es möglich, dass dieser noch unbekannte junge Mann die Lösung gefunden hatte? Man wagt kaum zu atmen. Und was macht Archimedes? – Er beginnt mit einer Waage zu hantieren. Zunächst bringt er die drei Kegel mit dem Zylinder ins Gleichgewicht. Kein dröhnender Applaus. Eisiges Schweigen! Der erst 14-jährige Apollonius von Perge - trotz Ju- gend schon ein berühmter Mathematiker - erhebt sich und spricht: „Euer Magnifizenz, geehrte Kolle- gen. Ich stelle den Antrag, dass Archimedes für immer der Universität verwiesen werde, da er den Geist der Mathematik mit schmutziger Materie besudelt hat.“ Archimedes kehrt nach Syrakus zurück. Dann vertauscht er zwei seiner Kegel mit der Halbkugel. Schließlich wiegt er zwei Kegel mit einer Halbkugel auf.

 ,00 20,560,00 30,850,500,00 41,030,750,440,00 51,160,910,670,400,00 61,271,030,830,610,370,00 71,351,130,940,760,570,350,00 81,421,221,040,870,710,540,330,00 91,491,291,120,960,820,670,500,310,00 101,541,351,191,040,900,770,630,470,300,00 121,631,451,301,171,040,930,810,690,570,430,00 141,701,531,391,261,151,050,950,840,740,640,400,00 161,771,601,451,341,231,141,050,950,860,780,590,370,00 181,821,661,531,411,311,221,131,040,960,890,720,550,350,00 201,871,711,581,471,371,291,201,131,050,980,830,680,520,330,00 302,041,901,781,691,601,531,451,391,331,271,161,060,950,860,76 502,252,122,011,931,851,791,731,681,621,571,491,411,331,261, ,512,392,302,222,162,102,052,001,961,921,851,791,731,671, ,752,642,552,492,432,382,342,292,262,222,162,112,062,011, ,882,782,692,632,582,532,492,452,412,382,322,272,232,192, ,042,942,862,802,752,712,672,632,602,572,522,472,432,392, ,243,153,083,032,982,932902,862,842,812,762,722,682,652,61 Linearer Fortschritt: auf einem Computer auswiegen Im Jahr 1969 mit dem Rechner PDP -10 „ausgewogen“. – Rechenzeit: 730 Stunden !

Feststellung: Eine ( , ) - ES ist langsamer als eine ( 1, ) - ES Statt vom vordersten Punkt (dem Spitzenelter) wird auch von weiter hinten aus (dem zweitbesten, drittbesten, … Nachkommen) mutiert. Die schlechteren Eltern müssen hinterher geschleppt werden.

  lin   kug Von der linearen zu nichtlinearen Theorie ?

a Für q << r darf a auf x 1 projiziert werden Mutation der Variablen x 2 bis x n Der bis auf x 1 mutierte Nachkomme N‘ erleidet den Rückschritt a Eine geometrische Betrachtung für n >> 1 Projektion erlaubt wenn q << r Wir drehen q um die x 1 -Achse so, dass q in der Bildschirmebene liegt Alle bis auf x 1 mutierten Nachkommen N‘ erleiden den Rückschritt a

Das dimensionslose Fortschrittsgesetz mitund folgt das zentrale Fortschrittsgesetz Dimensionslose Fortschrittsgeschwindigkeit Dimensionslose Schrittweite Text

Der Evolutions- Stratege zeichnet sich durch diese Formel aus

Gültig für beliebige werte von ,, , r, n !

Fortschrittsfenster der (1 + 1) - Evolutionsstrategie Evolutionsfenster

Warum logarithmische Auftragung für die Schrittweite  ? Einzig sinnvolle Skala Das gilt auch für die Mutationsschrittweite  ! Elektromagnetisches Wellenspektrum Potenz einer Ionenaktivität

10 20, ,11940, ,13250,07030, ,13520,08280,04490, ,13380,08840,05740, ,13060,09120,06310, ,12670,09300,06760, ,12250,09250,06970, ,11840,09110,07080, ,11440,08910,07080, ,11060,08760,07040, ,10700,08600,06960, ,10360,08360,06900, ,10040,08160,06770,0566 Serielle Fortschrittsgeschwindigkeit Maximalwerte 0,1352 0,0930 0,0708 0,0570

Maximale (serielle) Fortschrittsgeschwindigkeit: (1 + 1) - ES versus (  , ) - ES vergleichen wir mit

Warum ( , )-Evolutionsstrategie ? Wir können den Mittelwert (= Schwerpunkt) der erfolgreichen Nachkommen bilden Und das wird sich als ein raffinierter evolutionsstrategischer Trick erweisen Denn die Nachkommen liegen „mal links, mal rechts“ neben dem Gradienten

Wir bilden den Mittelwert der  besten Nachkommen... Zur Mittelwertbildung Gegeben sind die Werte Dann ist der Mittelwert Wenn unabhängig (0,  )-normalverteilt sind, Dann besitzt die Zufallsgröße die verminderte Streuung Normalverteilte Zufallszahlen Die besten Nachkommen sind aber die ausgelesenen Eltern Additionstheorem der Normalverteilung

Also bilden wir den Mittelwert (= Schwerpunkt) der Eltern mit den Variablenwerten Der Querschritt reduziert sich um den Faktor !... Berechnung des misslichen Querschritts Was geschieht mit den über  gemittelten x 1 Werten, die als  beste Eltern ausgelesen wurden und zu- sammen den Fortschritt ergeben ? Die einzelnen x 1 -Fortschritte werden zwar durch  dividiert, aber es werden dann  von ihnen, die ja alle mehr in der positiven Mutationsrichtung liegen, wieder addiert. Der Verlust durch Mittelung bleibt klein (siehe -Tabelle). Die arithmetrisch über  gemittelten Variab- len x i besitzen nach dem Additionstheorem der Normalverteilung die Streuung:

 ,00 20,560,00 30,850,420,00 41,030,660,340,00 51,160,830,550,480,00 61,270,950,700,480,250,00 71,351,060,820,620,420,230,00 81,421,140,920,730,550,380,200,00 91,491,211,000,820,650,500,350,190,00 101,541,271,070,890,740,600,460,320,170,00 121,631,371,181,020,880,750,630,510,390,270,00 141,701,461,271,120,990,870,760,650,550,450,240,00 161,771,531,351,201,080,960,860,760,670,580,400,220,00 181,821,591,411,271,151,040,941,850,760,680,520,360,200,00 201,871,641,471,331,211,111,020,930,850,770,620,480,330,180,00 302,041,831,671,551,451,351,271,201,131,060,940,830,730,630,53 502,252,051,911,801,711,621,551,491,431,371,271,181,101,020, ,512,332,202,102,021,951,881,831,781,731,651,571,501,441,39 Linearer Fortschritt: aus Tabelle Die Fortschrittsbeiwerte sind berechenbar und müssen nicht „ausgewogen“ werden

Für q << r darf a auf x 1 projiziert werden Mutation der Variablen x 2 bis x n des Nachkommem N 1 ergeben den Quer- schritt q 1. Für alle Nachkommen gilt: q 1 (N 1 ) = q 2 (N 2 ) = q 3 (N 3 ) =...     Division durch  (Mittelwertbildung)   q1q1 a a Durch Addition der   normalverteilten Eltern (Additionstheorem !) Linien Fortschritt Der Rückschritt a hat sich verkleinert für n >> 1 Summierung der Querschritte der  besten Nachkommen

(    , )-ES ES mit Mischung der Variablen (Erbanlagen) von zwei Individuen = 8  = 2  = 2

Intermediäre Vererbung in der Natur Der Unterschied zur intermediären Vererbung in der Natur ist, dass bei der (    ) -ES nicht zwei, sondern alle  El- tern ihre Variablenwerte mischen. Eine derartige Multi-Re- kombination gibt es in der Natur nur bei Viren (Phagen).

In der Natur werden die Erbanlagen von je zwei Individuen gemischt. In der Nomenklatur der ES wäre die Mischungszahl  = 2. (   , ) - ES  = 2 Nur Phagen (Viren, die in Bakterien leben) beherrschen die Technik der Multirekombination  = . Das heißt, alle  Eltern mischen ihre Erbanlagen. (   , ) - ES  =  Multi-Mischung (Multirekombination) ist auf dem Computer nicht nur leicht durchführbar, sondern algorithmisch sogar einfacher zu programmieren. Evolutionsstrategen arbeiten mit Multirekombination Nomenklatur (   , ) - ES ( , ) - ES oder In der Theorie lässt sich nur der Fall  =  erfolgreich behandeln. Multirekombination liefert eine größere Fortschrittsgeschwindigkeit als die Zweier-Rekombination

Warum ( ,  ) - ES statt (1 + 1) - ES ? 1. Selbstadaptation der Mutationsschrittweite erfordert eine Gruppe konkurrierender Individuen ( > 1) 2. Die Einführung des Vererbungsfaktors „Chromosomen-Kreuzung“ erfordert mehrere Eltern (  > 1) 3. Eine Population von Elternindividuen (  > 1) ist robuster gegenüber Qualitätsrauschen (unscharfe Selektion) Nächste Vorlesung

Ende

Der Algorithmus der - Evolutionsstrategie lautet verbal:  Eltern der Generation g erzeugen in zufälliger Folge insgesamt  Nachkommen. 2.Plus-Strategie: von den  + Individuen werden die  bestenPlus-Strategie: von den  + Individuen werden die  besten zu Eltern der Generation g +1. Komma-Strategie: Streichen der Eltern der Generation g. Von den Individuen werden die  besten zu Eltern der Generation g +1.

In der Formel ist die Fortschrittsgeschwindigkeit  eine Funktion von der Variablenzahl n, dem Höhenlinien-Krümmungsradius r, der Mutationsstreuung , der Nachkommen- zahl  und der Elternzahl . Das ist eine 5-dimensionale Mannigfaltigkeit. Nur eine unüberblickbare Schar von Diagrammen könnte den Zusammenhang grafisch veranschaulichen. In der dimensionslosen Form mit den universellen Parametern  und  ist der Zusammenhang in einem einzigen Diagramm darstellbar.

Das Additionstheorem der Normalverteilung: Werden k normalverteilte Zufallszahlen mit der Streuung  addiert, so ergibt sich eine neue Zufallszahl mit der Streuung