Ingo Rechenberg PowerPoint-Folien zur 5. Vorlesung „Evolutionsstrategie I“ Finale der Theorie der zweigliedrigen Evolutionsstrategie Handlungsregeln als Ergebnis der nichtlinearen Theorie
Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel vergrößern für W e > 1 / 5 verkleinern für W e < 1 / 5 Für maximales
Mutationsschrittweite und Erfolgswahrscheinlichkeit Erfolge W e ≈ 0,49 = 1: 2,04 W e ≈ 0,16 = 1: 6,25 Höhenlinie + > 1/5 < 1/5
Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel vergrößern für W e > 1 / 5 verkleinern für W e < 1 / 5 auf die Länge 1 normiert
Wie normiert man einen Zufallsvektor auf die Länge 1 ? Wir erwürfeln die Komponenten und bestimmen die Länge Wir dividieren durch und erhalten die normierten Zufallzahlen Dann ist ! Frage: Wie groß ist für viele normalverteilte Zufallsszahlen Viele quadrierte Zufallszahlen addiert ergeben einen repräsentativen Mittelwert ? Aber für n >> 1 geht es noch viel einfacher, zu 1 zu machen Der Zufallsschritt wird mit wachsender Variablenzahl n immer länger
Normalverteilte Zufallszahlen z i für die Mutation der Variablen x i zizi w 0 22 + Wendepunkt der Kurve Werden viele Zufallszahlen mit der Wahrscheinlichkeitsdichte addiert, ergibt sich der Mittelwert Null. Werden diese Zufallszahlen aber quadriert und aufsummiert, ergibt sich ein Mittelwert größer als Null! Die Wurzel daraus ist die Zufallsschrittweite.
P P Die Trefferwahrscheinlichkeitsdichte Ursprung der z -Koordinaten P P P P P P P ‚
P P Zum radialen Strecken- Erwartungswert P P 3 ‚ Ursprung der z -Koordinaten
… Für n Dimensionen für n >> 1 Zur Schwankung der Länge Um also werden zu lassen, müssen wir setzen
Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel vergrößern für W e > 1 / 5 verkleinern für W e < 1 / 5 auf die Länge 1 normiert
Achtung ! Die Normierung des Zufallsvektors auf die Länge 1 gilt nur für die Anwendung des ES-Algorithmus zur Lösung eines Optimierungsproblems. In den Formeln der Theorie der ES bleibt die Größe, welche die Mutationsschrittweite symbolisiert. Doch einmal ersetzen wir in unseren Formeln durch
Wir nennen die Mutationsschrittweite Bisherige Formeln Für <<1 folgt Hurra, das kennen wir doch (Guldin)
Korridor Kugel Ergebnisse der nichtlinearen Theorie
Korridor Kugel Erweiterte Ergebnisse der nichtlinearen Theorie
ES-Suchschlauch im Korridor für n ≈ b2 b
ES-Suchschlauch im Kugelmodell für n ≈ 900 r Text
Allgemeines Suchbild der ES für n >> 1 sondern wegen Nicht so so Darwin lässt grüßen ! Ließe sich das Vorhandensein eines zusammengesetzten Organs nachweisen, das nicht durch zahlreiche aufeinander folgende geringe Abänderungen entstehen könnte, so müsste meine Theorie zusammenbrechen.
Algorithmus der (1 + 1) - ES mit 1/5-Erfolgsregel vergrößern für W e > 1 / 5 verkleinern für W e < 1 / 5 ? Wie stark müssen wir vergrößern bzw. verkleinern?
Zum Schrittweitenänderungsfaktor der (1 + 1) - ES für g = 1 Klettern mit max Für n / 0,202 >> 1 gilt Text Deshalb k · n
Die Schrittweiten müssen sich so ändern wie die Radien: Für k = 1 folgt Für optimales Fortschreiten ist also nach n Generationen um zu verkleinern. Bewährt hat sich = 1,3 – 1,5. → Einstellregel
Algorithmus der (1 + 1) - ES mit 1/5-Erfolgsregel 1,3 für W e > 1 / 5 1,3 für W e < 1 / 5 Nach jeweils n Generationen
Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel 1,5 für W e > 1 / 5 1,5 für W e < 1 / 5 Nach jeweils n Generationen
Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel Minimalform ! Die Schrittweite wird nach jeder Generation verändert
Idealisierter richtiger Ablauf einer (1+ 1)-ES-Optimierung Schrittweitenänderung Erfolg Misserfolg Erfolg Erfolgshäufigkeit ist richtig Keine Schrittweitenänderung ! Bei mehr Erfolgen wird mehr mit 1,3 multipliziert Bei mehr Misserfolgen wird mehr mit durch dividiert
Ein Minimalprogramm in M ATLAB zur Minimierung der Testfunktion „Kugelmodell“ v=100; d=1; xe=ones(v,1); qe=sum(xe.^2); for g=1:1000 xn=xe+d*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qe qe=qn; xe=xn; d=d*1.3; else d=d/(1.3^0.25); end semilogy(g,qe,'b.') hold on; drawnow; end
Zurück zu den Fortschrittsformeln für das Korridor- und das Kugelmodell
Kugelmodell
Quasikonstante ≈ 1, wenn mit opt vorangeschritten werden soll Korridormodell für Korridormodell
Fortschrittsfenster der (1 + 1) - Evolutionsstrategie Evolutionsfenster ! !
Ende
Genau genommen ist das gezeigte Konvergenzbild nur richtig, wenn sich die Hyper- kugel in Richtung Startelter Kugelzentrum geringfügig zu einem Ellipsoid verformt. Bei einer exakten Kugel sind die Kugelschalen selektionsneutral. Ähnlich wie beim evolutionsstrategischen Beklettern einer ansteigenden Ebene eine Seitwärtsdrift eintritt, wird bei der exakten Kugel eine Umfangsdrift stattfinden. Der Suchschlauch wird sich also spiralförmig dem Kugelzentrum nähern.
Idee der Theorie: Es ist das Kugelmodell, das eine besonders starke Anpassung der Mutationsschritt- weite erfordert. Die Schrittweite muss sich in dem Maße verkleinern, wie der Zielab- stand während des Fortschreitens abnimmt. Wir können die Verkleinerung des Ziel- abstands pro Generation in die mathematische Form (r (g) – r (g+1) ) /1 bringen. Diese mittlere Zielabstandsverkleinerung soll nun den größten Wert annehmen; das heißt wir setzen sie gleich max. Wir wiederholen die Gleichsetzung für k·n Generations- schritte (k =1, 2,...) Wir setzen am Ende der Rechnung willkürlich k = 1. Es bedeu- tet, dass die errechnete Schrittweitenverkleinerung erst nach n Generation ausge- führt werden darf. Der Faktor (Schittweitenänderungsfaktor genannt) gibt an, mit welchen Wert größer als 1 die Mutationsschrittweite multipliziert werden muss, wenn die Erfolgswahrscheinlichkeit größer als 1/5 ist. Umgekehrt muss durch dividiert werden, wenn die Erfolgswahrscheinlichkeit kleinen als 1/5 ist.