Ingo Rechenberg PowerPoint-Folien zur 4. Vorlesung „Evolutionsstrategie I“ Auf dem Weg zu einer nichtlinearen Theorie Korridormodell, Kugelmodell und die 1/5 - Erfolgsregel

Suchstrategie: Konstruktion einer additiven Einbahnstraße zum Optimum Ließe sich das Vorhandensein eines zusammengesetzten Organs nachweisen, das nicht durch zahlreiche aufeinander folgende geringe Abänderungen entstehen könnte, so müsste meine Theorie zusammenbrechen. Charles Darwin

Die Evolutionsstrategie ist ein Schiebealgorithmus Das sich höher entwickelnde System wird nicht von einer „Instanz“ zum Gipfel hingezogen Sondern das sich höher entwickelnde System wird in einer Qualitätslandschaft permanent aufwärts geschoben Ziel

Endstadien des Schiebealgorithmus „Evolutionsstrategie“ Qualität / Fitness Unmöglich, da Schiebealgorithmus

Vier Beispiele für klassische mathematische Optimierungsverfahren, die Schiebealgorithmen sind

Elementare Gradientenstrategie … Nach dem Arbeitschritt wird durch Testmessungen erneut die Richtung des steilsten Anstiegs ermittelt. In diese Richtung wird wie- derum mit der Arbeitsschritt- weite vorangegangen.

Extrapolierende Gradientenstrategie Nachdem die Richtung steils- ten Anstiegs ermittelt wurde wird solange mit der Arbeits- schrittweite in diese Richtung vorangeschritten, bis die Qualität sich verschlechtert. Dort wird erneut die Richtung des steilsten Anstiegs durch Testmessungen ermittelt.

Gauß-Seidel- oder Koordinatenstrategie Es wird in die 1. Koordina- tenrichtung solange mit der Arbeitsschrittweite fortge- schritten, bis sich die Qua- lität verschlechtert. Dann wird die Prozedur in der 2. Koordinatenrichtung fortge- setzt usw.

Simplex-Strategie von Nelder/Mead Konstruktion eines gleich- seitigen Tetraeders im Variablenraum. Der Punkt niedrigster Qualität wird gestrichen. An der verblei- benden Grundfläche wird die Spitze eines neuen Tetraeders gespiegelt.

Folgen eines zum Gipfel ausgerollten Ariadnefadens Vernünftige Strategien folgen ausgezeichneten Wegen zum Optimum Text

Die 100 Lose werden, entsprechend ihrer Nummern, auf den Feldern der Ebene ausgelegt. Gewinn Es gibt keinen Weg zum Gewinn, dem man folgen kann !!! Lotterielose Durchnummeriert mit 00, 01, 02, … 98, 99

 zurückgelegter Weg Zahl der Mutationen   

Algorithmus der (1 + 1) - ES  so groß wie möglich

Suche nach dem maximalen Fortschritt Wo ist das Optimum ???

Lineares Modell

Nichtlineare Modelle Weitab vom Optimum Nahe am Optimum Parabelgrat Kreiskuppe Einkreisen des Optimums Voranschreiten zum Optimum Rampengrat

Modellfunktion Rampengrat (Korridormodell) 2-dimensional3-dimensional Q steigt longitudinal monoton an

Modellfunktion Kreiskuppe (Kugelmodell) 2-dimensional 3-dimensional Q steigt radial monoton an

P P Zur Trefferwahrscheinlichkeit Ursprung der z -Koordinaten P P P P P P P ′ Text Gauss- oder Normalverteilung  = Maß für die Länge der Mutationsschritte sdichte r2r2 Fiktiver Würfel mit mehr als 6 Seiten und mehr kleinen als großen Augenzahlen

Normalverteilte Zufallszahlen z i für die Mutation der Variablen x i zizi w 0 22 + Wendepunkt der Kurve

Lokaler Fortschritt der (1 + 1)-ES am Korridormodell 6 P Text Gausswürfel

6 … Lange elementare Zwischenrechnung Text siehe Text

  P´P´

Der örtliche Fortschritt im Korridor ist von der Lage des Punktes P ′ abhängig. Im Zentrum ist der Fortschritt groß, in den Ecken dagegen sehr klein. Wir müssen den Fortschritt über den Korridorquerschnitt mitteln: Die lineare Mittelung ist erlaubt, weil - während des evolutiven Fortschreitens im Korridor - jede Position im Korridorquerschnitt (in der Mitte, am Rand und in der Ecke) die gleiche Aufenthaltshäufigkeit besitzt (Simulation oder lange Rechnung).

Mit für u >>1 folgt Dies gilt für n >> 1, wie sich später zeigen wird

Wir suchen das Maximum von  durch Nullsetzen der 1. Ableitung: ! für n >> 1 Bekannter Grenzwert Wo kommt das e her ?

Wir erinnern uns: zurückgelegter Weg Zahl der Mutationen    Wir konstruieren ein zweites Konvergenzmaß erfolgreiche Mutationen Gesamtzahl der Mutationen We We  W e nennen wir die Erfolgswahrscheinlichkeit

… Es galt: … Wir setzen die Fortschrittsbewertung = 1

für   / b << 1 opt ( = 1 : 5,4 ) für n >> 1 Lange elementare Zwischenrechnung Bekannter Grenzwert

Algorithmus der (1 + 1) – ES mit Erfolgsregel  vergrößern für W e > 1 / 2e  verkleinern für W e < 1 / 2e !

Korridormodell und optimale Mutationsschrittweite

Modellfunktion Kreiskuppe (Kugelmodell) 2-dimensional 3-dimensional Q steigt monoton an

P P P Fortschrittsbewertung am Kugelmodell zurückgelegter Weg als Radiendifferenz Zahl der Mutationen   Kugel 

… zurückgelegter Weg als Radiendifferenz Zahl der Mutationen   Kugel 

Korridor Kugel Ergebnisse der nichtlinearen Theorie

(1 + 1) - Evolutionsstrategie: 1 / 5 - Erfolgsregel 1/6 1/5 1/4

Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel  vergrößern für W e > 1 / 5  verkleinern für W e < 1 / 5

Zur 1/5-Erfolgsregel Die Menschheit hat bis jetzt 10 hoch 15 Bits an Information gespeichert. Bis zum Jahr 2000 wird sich die Menge etwa verdoppeln. Dabei gilt für die Infosintflut Folgendes: Etwa drei Fünftel sind Unsinn und vermischter Unsinn; den ich „Trübkunde“ nenne; ein Fünftel ist zwar sinnvoll, aber vergängliche Info, und kaum ein Fünftel besteht aus ernsten Denk- früchten. Sogar die Forschungsanstalten werden in der Flut versinken, weil sie nicht Information, sondern Selektion benötigen, um weiter agieren zu können. Der Futurologe Stanislaw Lem schrieb 1996 in einem Essay im Spiegel: Zu Tode informiert ( Der Spiegel 11/ 1996)

Ende

Der Minotaurus, ein mischgestaltiges Wesen (halb Mensch, halb Stier) haust in einem Labyrinth, das Dädalus im Auftrag des kretischen Königs Minos in Knossos erbaut hat. Sieben Jungen und sieben Mädchen mussten jährlich dem Minotaurus geopfert werden. Da beschließt der athenische Held Theseus, dem Minotaurus ein Ende zu bereiten. In Knossos auf Kreta ange- kommen verliebt er sich in Ariadne, der Tochter des Königs Minos. Bevor Theseus in das Labyrinth eindringt gib Ariadne ihm auf Anraten von Dädalus ein Garnknäuel. Theseus bindet ein Ende des Fadens an das bronzene Gitter des Eingangstores. Nach langem Umherirren im Labyrinth - das Garnknäuel hinter sich abwickelnd - stößt Theseus auf den Minotaurus und erschlägt ihn in einem fürchterlichen Kampf. Mit Hilfe des ausgerollten roten Fadens der Ariadne findet Theseus problemlos den Weg in die Freiheit zurück. Auf diesen „Ariadnefaden“ geht unser Wort „Leitfaden“ zurück.

Zur Wahrscheinlichkeitsrechnung Diskrete Wahrscheinlichkeit: Die Wahrscheinlichkeit eine 4 zu würfeln ist gleich 1/6. Die Wahrscheinlichkeit eine 4 oder eine 5 zu würfeln ist gleich 1/6 1/6 = 2/6. Die Wahrscheinlichkeit eine 3 und nochmals eine 3 zu würfeln ist gleich 1/6 1/6 = 1/36. Kontinuierliche Wahrscheinlichkeit: Mit dem Befehl ran in Basic wird eine Zufallszahl zwischen 0 und 1 aufgerufen. Die Wahr- scheinlichkeit genau 0,60000… (mit  vielen Nullen) aufzurufen ist mathematisch = 0. Sinnvoll ist nur die Frage nach der Wahrscheinlichkeit, einen Wert zwischen 0,59000… und 0,61000… zu erwürfeln. Der Wert (hier 0,02) dividiert durch das gesamte Intervall (hier gerade = 1) ergibt die Wahrscheinlichleitsdichte. Die Wahrscheinlichkeitsdichte w ist also ein abstrakter Zahlenwert, der mit dem Linien-, Flächen- oder Volumenelement multipliziert die reale Wahrscheinlichkeit angibt, diesen Linien-, Flächen- oder Volumenbereich zu treffen.

Wir gehen alle Punkte (hier der Ebene) durch, multiplizieren den Fortschrittspfeil (falls vor- handen) mit der Trefferwahrscheinlichkeitsdichte und addieren alle positiven Pfeillängen zusammen. Da wir mit der Wahrscheinlichkeitsdichte operieren, erübrigt sich die Division durch die Zahl der aufgesuchten Punkte, die ja Unendlich wäre. Die Summation der unendlich vielen differentiellen Punktmultiplikationen führt zu einem Inte- gral, das im Fall von n Dimensionen ein n-dimensionales Raumintegral ist. Da positive Pfeile nur im Erfolgsgebiet R + auftreten, erstrecken wir das Raumintegral nur über den R + -Bereich.

Die Funktion erf( x ) heißt Fehlerfunktion (error function). Erf( x ) ist nicht anders zu behandeln als ein Sinus, Cosinus oder Tangenshyperbolikus. Will sagen, dass der Wert für ein gegebenes Argument x aus einer Tabelle abgelesen werden muss. Erf( x ) ist definiert als das Integral und hat den grafischen Verlauf