PowerPoint-Folien zur 3. Vorlesung „Evolutionsstrategie I“

Slides:



Advertisements
Ähnliche Präsentationen
Definition [1]: Sei S eine endliche Menge und sei p eine Abbildung von S in die positiven reellen Zahlen Für einen Teilmenge ES von S sei p definiert.
Advertisements

Stochastik und Markovketten
Die Laufzeit von randomisierten (zufallsgesteuerten) Algorithmen hängt von gewissen zufälligen Ereignissen ab (Beispiel Quicksort). Um die Laufzeiten dieser.
Schnelle Matrizenoperationen von Christian Büttner
Die Beziérkurve Adrian Lehmann
PowerPoint-Folien zur 2. Vorlesung „Bionik I“
Geschichten aus der 4.Dimension
Dynamik komplexer Systeme
PowerPoint-Folien zur 8. Vorlesung „Bionik II / Biosensorik“
PowerPoint-Folien zur 2. Vorlesung „Evolutionsstrategie II“
Ingo Rechenberg PowerPoint-Folien zur 6. Vorlesung Evolutionsstrategie II Theorie: Vom Kugelmodell zum Gratmodell Nachgerechnet: Von der Urbakterie zum.
Ingo Rechenberg PowerPoint-Folien zur 6. Vorlesung Evolutionsstrategie I Handlungsregeln, die aus der nichtlinearen Theorie der (1 + 1) - ES folgen.
6. Vorlesung Evolutionsstrategie I
Ingo Rechenberg PowerPoint-Folien zur 4. Vorlesung Evolutionsstrategie I Vier elementare Optimierungsstrategien auf dem Prüfstand.
PowerPoint-Folien zur 5. Vorlesung „Evolutionsstrategie I“
PowerPoint-Folien zur 7. Vorlesung „Evolutionsstrategie II“
Algorithmus der (1 + 1) – ES mit 1/5-Erfolgsregel in der Minimalform { {
Ingo Rechenberg PowerPoint-Folien zur 8. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5-Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung.
PowerPoint-Folien zur 7. Vorlesung „Evolutionsstrategie II“
Ingo Rechenberg PowerPoint-Folien zur 6. Vorlesung Evolutionsstrategie II Theorie: Vom Kugelmodell zum Gratmodell Nachgerechnet: Von der Urbakterie zum.
PowerPoint-Folien zur 7. Vorlesung „Evolutionsstrategie I“
PowerPoint-Folien zur 5. Vorlesung „Evolutionsstrategie I“
PowerPoint-Folien zur 3. Vorlesung „Evolutionsstrategie I“
PowerPoint-Folien zur 3. Vorlesung „Evolutionsstrategie I“
Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie II Die goldene Regel der Evolution, das größte kleine Sechseck und das Maximum-Minimum-Distanz-Problem.
PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“
Ingo Rechenberg PowerPoint-Folien zur 4. Vorlesung Evolutionsstrategie I Auf dem Weg zu einer nichtlinearen Theorie Korridormodell, Kugelmodell und die.
PowerPoint-Folien zur 3. Vorlesung „Bionik I“
Ingo Rechenberg PowerPoint-Folien zur 5. Vorlesung Evolutionsstrategie I Finale der Theorie der zweigliedrigen Evolutionsstrategie Handlungsregeln als.
PowerPoint-Folien zur 3. Vorlesung „Bionik I“
Evolutionsstrategie II Praktikum SS10 Anmeldung mit Name und Matrikelnummer an: Termin des Praktikums wird nach Absprache mit.
PowerPoint-Folien zur 3. Vorlesung „Bionik I“
Ingo Rechenberg PowerPoint-Folien zur 6. Vorlesung Evolutionsstrategie II Theorie: Vom Kugelmodell zum Gratmodell Nachgerechnet: Von der Urbakterie zum.
PowerPoint-Folien zur 2. Vorlesung „Evolutionsstrategie II“
Ingo Rechenberg PowerPoint-Folien zur 7. Vorlesung Evolutionsstrategie I Von der (1 + 1) - ES mit 1/5 - Erfolgsregel zur (1, ) - ES mit mutativer Schrittweitenregelung.
PowerPoint-Folien zur 1. Vorlesung „Evolutionsstrategie II“
Ingo Rechenberg PowerPoint-Folien zur 2. Vorlesung Evolutionsstrategie II Der ES-Fortschritt im Quadrikgebirge und Kalkül der geschachtelten Evolutionsstrategien.
§14 Basis und Dimension (14.1) Definition: V sei wieder ein K-Vektorraum. Eine Menge B von Vektoren aus V heißt Basis von V, wenn B ist Erzeugendensystem.
Übungen zur Vorlesung Stochastik und ihre Didaktik
und relative Häufigkeit Bettina delert, andreas mertke
Ingo Rechenberg PowerPoint-Folien zur 2. Vorlesung Evolutionsstrategie II Auf dem Weg zu einer ES-Algebra - Kalkül der geschachtelten Evolutionsstrategien.
Der waagrechte Wurf.
Tetraederzerlegung Ina Ehmann Tetraederzerlegung.
Histogramm/empirische Verteilung Verteilungen
FHP - Fachbereich Bauingenieurwesen
Wahrscheinlichkeits-rechnung
Effiziente Algorithmen Hartmut Klauck Universität Frankfurt SS
Beweissysteme Hartmut Klauck Universität Frankfurt WS 06/
Wahrscheinlichkeitsrechnung
Wahrscheinlichkeitsrechnung
LK-MA - Christopher Schlesiger
Begriff der Zufallsgröße
Schnittpunkt von zwei Geraden
Seminar Geometrie SS 2003 Eulersche Charakteristik
Statistik – Regression - Korrelation
Stochastik Grundlagen
Ingo Rechenberg PowerPoint-Folien zur 5. Vorlesung „Evolutionsstrategie I“ Finale der Theorie der zweigliedrigen Evolutionsstrategie Handlungsregeln als.
PowerPoint-Folien zur 7. Vorlesung „Evolutionsstrategie II“
Nichtlineare Optimierung
PowerPoint-Folien zur 8. Vorlesung „Evolutionsstrategie I“
PowerPoint-Folien zur 4. Vorlesung „Evolutionsstrategie II“
PowerPoint-Folien zur 10. Vorlesung „Evolutionsstrategie I“
Die Binomialverteilung
Stochastik I Erwartungswert
Vorstellen und Herleiten der Horner Schemas
Reihenfolge der Operatoren
Ingo Rechenberg PowerPoint-Folien zur 3. Vorlesung „Evolutionsstrategie I“ Globale und lokale Optimumsuche Vier elementare Strategien auf dem Prüfstand.
Vorbereitungsseminar zum fachdidaktischen Blockpraktikum im SS 2011
PowerPoint-Folien zur 3. Vorlesung „Bionik I“
Vorstellen und Herleiten der Horner Schemas
 Präsentation transkript:

PowerPoint-Folien zur 3. Vorlesung „Evolutionsstrategie I“ Ingo Rechenberg PowerPoint-Folien zur 3. Vorlesung „Evolutionsstrategie I“ Globale und lokale Optimumsuche Vier elementare Strategien auf dem Prüfstand Weiterverwendung nur unter Angabe der Quelle gestattet

? Q x Qualitätsmessung Versuchsobjekt Verstellbarkeit 4 Strategien Strategie Qualitätsmessung Versuchsobjekt Verstellbarkeit 1. Globale deterministische Suche Experimentierkreis 2. Globale stochastische Suche 3. Lokale deterministische Suche 4. Lokale stochastische Suche

Suche nach dem Optimum Bei schwach kausalem Weltverhalten Konstruktion einer additiven Einbahnstraße zum Berggipfel Bei stark kausalem Weltverhalten

1. Globale deterministische Suche Beispiel: 80 Variable mit je 10 diskreten Einstellstufen 1080 = Zahl der Elementarteilchen im Weltall 1. Globale deterministische Suche Systematisches Scannen des Versuchsfeldes

2. Globale stochastische Suche Zielfindung mit 95% Wahrscheinlichkeit

Rechnung mit Wahrscheinlichkeitstheorie 1. Versuch Ziel getroffen: 1. Versuch Ziel nicht getroffen: 2. Versuch Ziel nicht getroffen: Für n Variable 3. Versuch Ziel nicht getroffen: G. Versuch Ziel nicht getroffen: G. Versuch Ziel getroffen: Für Wz = 0.95 Text

1. Globale deterministische Suche 2. Globale stochastische Suche 3. Lokale deterministische Suche 4. Lokale stochastische Suche

j j = Zurückgelegter Weg bergan Zahl der Versuche Definition der Fortschrittsgeschwindigkeit j j = Zurückgelegter Weg bergan Zahl der Versuche

j = d d Zurückgelegter Weg bergan Zahl der Versuche Fortschritt d Linearitätsradius 3. Lokale deterministische Suche Folgen des steilsten Anstiegs

Gradientenstrategie Arbeitsschritt der Länge d in Richtung des steilsten Anstiegs am Beispiel für 3 Dimensionen:

d 4. Lokale stochastische Suche 2. Nachkomme Elter 1. Nachkomme Linearitätsradius 4. Lokale stochastische Suche Zufallsdriften entlang des steilsten Anstiegs

+ − Bestimmung des linearen Fortschritts Plus-Nachkomme Schwerpunkt Minus-Nachkomme Elter + Linearitätsradius − Statistisches Mittel des Fortschritts Bestimmung des linearen Fortschritts

+ − s = j 2 Plus-Nachkomme Schwerpunkt Minus-Nachkomme Elter + Linearitätsradius Fortschrittsgeschwindigkeit: s 2 r = j − Statistisches Mittel des Fortschritts Weil die Hälfte der Kinder Misserfolge sind !

Schwerpunkt sr sr sr 2 Dim. 3 Dim. n Dim. ?

+ − Bestimmung des linearen Fortschritts Plus-Nachkomme Schwerpunkt Minus-Nachkomme Elter + Linearitätsradius − Statistisches Mittel des Fortschritts Bestimmung des linearen Fortschritts

+ − s = j 2 Plus-Nachkomme Schwerpunkt Minus-Nachkomme Elter + Linearitätsradius Fortschrittsgeschwindigkeit: s 2 v = j − Statistisches Mittel des Fortschritts Weil die Hälfte der Kinder Misserfolge sind !

Schwerpunkt r r sv sv sv 2 Dim. 3 Dim. n Dim. ?

Aufgabe: 1. Berechnung des Schwerpunkts einer n-dimensionalen Halbkugelschale 2. Berechnung des Schwerpunkts einer n-dimensionalen Vollhalbkugel Was ist eine n-dimensionale Kugel - Hyperkugel ? Was ist ein n-dimensionaler Würfel - Hyperwürfel ?

Hyperraum aus der Sicht eines Künstlers

Der Weg zum n-dimensionalen Würfel Strecke – Quadrat – Würfel – Tesserakt

Was ist eine n-dimensionale Kugel ? Die Fortentwicklung einer konstruktiven mathematischen Idee Beispiel: Strecken-Flächen-Volumen-Element a a a a a a Hyperwürfel Genannt: Stecke Fläche Volumen Hypervolumen

Analoge Extrapolationsidee für die D Entfernung D zweier Punkte Die konstruktive Idee einer n-dimensionalen Kugeloberfläche: Alle Punkte P2, die von dem Punkt P1 die gleiche Entfernung R haben.

Zurück zur Aufgabe: 1. Berechnung des Schwerpunkts einer n-dimensionalen Halbkugelschale 2. Berechnung des Schwerpunkts einer n-dimensionalen Vollhalbkugel

Die 1. Guldinsche Regel Eine Kurve erzeugt durch Rotation um 360 Grad eine Rotationsfläche. Dann ist die Oberfläche der Rotationsfläche gleich der Länge der erzeugenden Kurve mal dem Weg des Schwerpunktes dieser Kurve. Paul Guldin (1577 – 1643)

U s O × p = 1 2 Die 1. Guldinsche Regel s Eine Kurve erzeugt durch Rotation um 360 Grad eine Rotationsfläche. Dann ist die Oberfläche der Rotationsfläche gleich der Länge der erzeugenden Kurve mal dem Weg des Schwerpunktes dieser Kurve. Paul Guldin (1577 – 1643) Beispiel: Ein Halbkreis erzeugt durch Rotation um 360° eine Kugel. Dann ist die Oberfläche der Kugel gleich der Länge des Halbkreislinie (p r ) mal dem Rotationsweg des Schwerpunkts des Halbkreislinie. Halbkreis mit dem Radius r s Halbkreislinienschwerpunkt Schwerpunktsweg Kreis Kugel 2 1 U s O × p =

Die 2. Guldinsche Regel Eine Fläche erzeugt durch Rotation um 360 Grad einen Rotationskörper. Dann ist das Volumen des Rotationskörpers gleich dem Inhalt der erzeugenden Fläche mal dem Weg des Schwerpunktes dieser Fläche. Paul Guldin (1577 – 1643)

F s V × p = 1 2 Die 2. Guldinsche Regel s Eine Fläche erzeugt durch Rotation um 360 Grad einen Rotationskörper. Dann ist das Volumen des Rotationskörpers gleich dem Inhalt der erzeugenden Fläche mal dem Weg des Schwerpunktes dieser Fläche. Paul Guldin (1577 – 1643) Beispiel: Ein Halbkreis erzeugt durch Rotation um 360° eine Kugel. Dann ist das Volumen der Kugel gleich dem Inhalt des Halbkreisfläche (1/2 p r 2) mal dem Rotati-onsweg des Schwerpunkts der Halbkreisfläche. Halbkreis mit dem Radius r s Halbkreisflächenschwerpunkt Schwerpunktsweg Kreis Kugel 2 1 F s V × p =

gedeutet als 1 Dimension 2 Dimensionen 3 Dimensionen 4 Dimensionen

n-dimensionalen Kugel Oberfläche einer n-dimensionalen Kugel Volumen einer n-dimensionalen Kugel G(m) = (m – 1)! für ganzzahlige m G(x +1) = x G(x), G(1) = G(2) = 1, G(1/2) = Zur Gammafunktion (verallgemeinerte Fakultät)

für große n für n >> 1 Es gilt die asymptotische Formel: Randverteilte Zufallszahlen für n >> 1 Volumenverteilte Zufallszahlen für große n Text

Zur Geometrie der n-dimensionalen Kugel Text

Gradienten Strategie kontra Evolutionsstrategie Für n >> 1 Gradientenstrategie Evolutionsstrategie Text

Motto des Evolutionsstrategen Der Dumme, der einfach losgeht, kommt weiter als der Schlaue, der sitzen bleibt und sich vor lauter Nachdenken nicht entscheiden kann. Motto des Evolutionsstrategen

Ende www.bionik.tu-berlin.de

Eine ähnliche Aufgabe: Ein Würfel wird 4 mal hintereinander geworfen Eine ähnliche Aufgabe: Ein Würfel wird 4 mal hintereinander geworfen. Wie groß ist die Wahrscheinlichkeit, dass mindestens eine Sechs fällt? – Aufgaben, in denen das Wort „mindestens „ vorkommt, behandelt man am besten über die Negation. Die Negation von „mindestens eine Sechs“ ich „keine Sechs“. Die Wahrscheinlichkeit, mit einem Wurf keine Sechs zu werfen ist 5/6. Die Wahrscheinlichkeit von „4 mal hintereinander keine Sechs„ ist (5/6)4. Dann ist die Wahrscheinlichkeit, dass sich bei vier Würfen mindestens eine Sechs zeigt: 1 – (5/6)4 = 0,518

Eine sehr wichtige Aussage der Theorie: Zwei völlig verschiedene Verteilungen der Mutationen (gleichmäßig am Kugelrand und gleichmäßig im Kugelvolumen) ergeben für viele Variable n das gleiche Ergebnis. Das heißt, es lohnt sich nicht, über Vor- und Nachteile verschiedener Mutationsverteilungen zu sinnieren.

Das Diagramm zeigt, dass in einer hochdimensionalen Hyperkugel sich das Volumen fast ausschließlich an der Oberfläche der Kugel konzentriert. Das Innere einer Hyperkugel hat nur sehr wenig Volumen. Ein gleichverteilter Zufalls-punkt wird sich deshalb mit großer Wahrscheinlichkeit immer am äußeren Rand der Hyperkugel befinden.

Die Theorie zeigt: Eine planvoll durchdachte Handlungsweise zum Folgen des Gra-dientenweges (Gradientenstrategie) muss nicht notwendigerweise effektiver sein als die Diffusion bergauf durch eine Reihe spontan ausgeführter kleiner Zufalls- schritte. Man muss den Gesamtaufwand sehen. Die Gradientenstrategie benötigt n Vorversuche (genau n+1), die zunächst noch keinen Fortschritt erbringen. Erst nachdem die Informationen gesammelt wurden folgt der eigentliche Arbeitsschritt, der nun allerdings den größtmöglichen Gewinn erbringt. Bei der Evolutionsstrategie ist es umgekehrt. Die Chance für eine großen Gewinn ist bei einem Zufallsschritt gering. Ein kleiner Gewinn tritt aber im Mittel jedes 2. Mal auf. Fazit: Die vielen Hilfsoperationen bei einen ausgeklügelten Strategie können zu einer größeren Verlangsamung des Fortschritts führen als die unvermeidlichen Abweichungen eines Zufallsschrittes (im linearen Fall ist ja jeder 2. Schritt im Mittel erfolgreich) von der optimalen Fortschrittsrichtung