PowerPoint-Folien zur 5. Vorlesung „Evolutionsstrategie I“ Ingo Rechenberg PowerPoint-Folien zur 5. Vorlesung „Evolutionsstrategie I“ Finale der Theorie der zweigliedrigen Evolutionsstrategie Handlungsregeln als Ergebnis der nichtlinearen Theorie Weiterverwendung nur unter Angabe der Quelle gestattet

d vergrößern für We > 1 / 5 Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel d vergrößern für We > 1 / 5 Für maximales j d verkleinern für We < 1 / 5

d d We ≈ 0,49 = 1: 2,04 We ≈ 0,16 = 1: 6,25 Mutationsschrittweite und Erfolgswahrscheinlichkeit Höhenlinie Erfolge Erfolge d We ≈ 0,49 = 1: 2,04 d We ≈ 0,16 = 1: 6,25

d vergrößern für We > 1 / 5 Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel auf die Länge 1 normiert d vergrößern für We > 1 / 5 d verkleinern für We < 1 / 5

Wie normiert man einen Zufallsvektor auf die Länge 1 ? Wir erwürfeln die Komponenten und bestimmen die Länge Wir dividieren durch und erhalten die normierten Zufallzahlen Frage: Wie groß ist für normalverteilte Zufallsszahlen

w Wendepunkt der Kurve 2s + zi Normalverteilte Zufallszahlen zi für die Mutation der Variablen xi

‚ Die Trefferwahrscheinlichkeitsdichte P P P P P P P P P Ursprung der z-Koordinaten P P P P Die Trefferwahrscheinlichkeitsdichte

‚ Zum radialen Strecken- Erwartungswert P P P P 3 Ursprung der z-Koordinaten P Zum radialen Strecken- Erwartungswert 3

Zur Schwankung der Länge Für n Dimensionen … für n >> 1 Zur Schwankung der Länge

Bisherige Formeln Wir nennen die Mutationsschrittweite d

Korridor Kugel Ergebnisse der nichtlinearen Theorie

Korridor Kugel Erweiterte Ergebnisse der nichtlinearen Theorie

2 b ES-Suchschlauch im Korridor für n ≈ 400

ES-Suchschlauch im Kugelmodell für n ≈ 900 r Text

Allgemeines Suchbild der ES für n >> 1 Nicht so sondern wegen so

l l Algorithmus der (1 + 1) - ES n 1 = × n n = s Im Mittel auf die Länge 1 normiert Wir dividieren alle mit s = 1 erzeugten n Zufallszahlen durch n 1 = × n l Dann ist nach der Formel n s = l

? d vergrößern für We > 1 / 5 d verkleinern für We < 1 / 5 Algorithmus der (1 + 1) - ES mit 1/5-Erfolgsregel Im Mittel auf die Länge 1 normiert d vergrößern für We > 1 / 5 Wie stark müssen wir d vergrößern bzw. verkleinern? ? d verkleinern für We < 1 / 5

Zum Schrittweitenänderungsfaktor der (1 + 1) - ES für g = 1 Klettern mit jmax Für n / 0,202 >> 1 gilt Text

Die Schrittweiten müssen sich so ändern wie die Radien: Für k = 1 folgt Für optimales Fortschreiten ist also nach n Generationen d um zu verkleinern. Bewährt hat sich a = 1,3 – 1,5. → Einstellregel

d  d  1,5 für We > 1 / 5 d  d / 1,5 für We < 1 / 5 Algorithmus der (1 + 1) - ES mit 1/5-Erfolgsregel Im Mittel auf die Länge 1 normiert d  d  1,5 für We > 1 / 5 Nach jeweils n Generationen d  d / 1,5 für We < 1 / 5

d  d  1,5 für We > 1 / 5 d  d / 1,5 für We < 1 / 5 Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel Im Mittel auf die Länge 1 normiert d  d  1,5 für We > 1 / 5 Nach jeweils n Generationen d  d / 1,5 für We < 1 / 5

Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel Im Mittel auf die Länge 1 normiert Minimalform !

 Idealisierter richtiger Ablauf einer (1+ 1)-ES-Optimierung Schrittweitenänderung Erfolg Misserfolg Erfolg Erfolgshäufigkeit ist richtig  Keine Schrittweitenänderung !

Ein Minimalprogramm in MATLAB zur Minimierung der Testfunktion „Kugelmodell“ v=100; d=1; xe=ones(v,1); qe=sum(xe.^2); for g=1:1000 xn=xe+d*randn(v,1)/sqrt(v); qn=sum(xn.^2); if qn < qe qe=qn; xe=xn; d=d*1.3; else d=d/(1.3^0.25); end semilogy(g,qe,'b.') hold on; drawnow;

Zurück zu den Fortschrittsformeln für das Korridor- und das Kugelmodell

Kugelmodell

Korridormodell Quasikonstante, wenn mit sopt vorangeschritten werden soll

Fortschrittsfenster der (1 + 1) - Evolutionsstrategie Evolutionsfenster Fortschrittsfenster der (1 + 1) - Evolutionsstrategie

Ende www.bionik.tu-berlin.de

Genau genommen ist das gezeigte Konvergenzbild nur richtig, wenn sich die Hyper-kugel in Richtung Startelter  Kugelzentrum geringfügig zu einem Ellipsoid verformt. Bei einer exakten Kugel sind die Kugelschalen selektionsneutral. Ähnlich wie beim evolutionsstrategischen Beklettern einer ansteigenden Ebene eine Seitwärtsdrift eintritt, wird bei der exakten Kugel ein Umfangsdrift stattfinden. Der Suchschlauch wird sich also spiralförmig dem Kugelzentrum nähern.

Idee der Theorie: Es ist das Kugelmodell, das eine besonders starke Anpassung der Mutationsschritt-weite erfordert. Die Schrittweite muss sich in dem Maße verkleinern, wie der Zielab-stand während des Fortschreitens abnimmt. Wir können die Verkleinerung des Ziel-abstands pro Generation in die mathematische Form (r (g) – r (g+1) ) /1 bringen. Diese mittlere Zielabstandsverkleinerung soll nun den größten Wert annehmen; das heißt wir setzen sie gleich j max. Wir wiederholen die Gleichsetzung für k·n Generations-schritte (k =1, 2, ...) Wir setzen am Ende der Rechnung willkürlich k = 1. Es bedeu-tet, dass die errechnete Schrittweitenverkleinerung erst nach n Generation ausge-führt werden darf. Der Faktor a (Schittweitenänderungsfaktor genannt) gibt an, mit welchen Wert größer als 1 die Mutationsschrittweite d multipliziert werden muss, wenn die Erfolgswahrscheinlichkeit größer als 1/5 ist. Umgekehrt muss d durch a dividiert werden, wenn die Erfolgswahrscheinlichkeit kleinen als 1/5 ist.