Kombinatorische Optimierung mit Ameisensystemen

Präsentation zum Thema: "Kombinatorische Optimierung mit Ameisensystemen"—  Präsentation transkript:

1 Kombinatorische Optimierung mit Ameisensystemen
Daniel Schiller

2 Inhalt Kombinatorische Optimierungsprobleme
Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Hausaufgabe Zusammenfassung & Fragen?

3 Lösungsraum durch Ganzzahligkeitsbedingung eingeschränkt
klassisches „Aufsuchen“ des Optimums entlang des Polyeders nicht möglich Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

4 Lösungsverschlechterung
Zeitaufwand oft nicht polynomiell von Problemgröße abhängig  schwer zu lösen oft fehlen effiziente exakte Lösungsverfahren  Heuristiken Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

5 „(auf)finden, entdecken“
Heuristik „(auf)finden, entdecken“ mit begrenztem Wissen eine gute Lösung in angemessener Zeit finden problemspezifisches Wissen nutzen Optimalität nicht garantiert Metaheuristik Rahmenwerk aus allgemeineren algorithmischen Regeln zur Erzeugung einer spezifischen Heuristik Ausgestaltung indivduell Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

6 Natürliche Algorithmen
Vorgänge oder Prinzipien der Natur werden nachgebildet neue Lösungsstrategien für Probleme abgeleitet effizientere Verfahren gesucht oft allgemeingültiger  nicht problemspezifisch Beispiele: Simulated Annealing, Genetischer Algorithmus, Sintflutalgorithmus, Ameisensysteme Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

7 Reale Ameisenkolonien Ameisen sind einfache Individuen
 begrenzte Leistungsfähigkeit Kolonien bewältigen komplexe Probleme hier: Aufbau eines effizienten (kurzen) Transportnetzwerks zwischen Nest und Futterstellen Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

8 jede Ameise sucht individuell nach einem Weg Beobachtung:
Ameisenexperiment 1 einfache Umgebung Ameisen schwärmen aus jede Ameise sucht individuell nach einem Weg Beobachtung: Ameisen finde den kurzen Weg als Lösung Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

9 jede Ameise trifft individuelle Entscheidung  Zufall
Erklärung jede Ameise trifft individuelle Entscheidung  Zufall jede Ameise markiert ihren Weg (ihre Lösung) mit Pheromonspur Pheromonspur beeinflusst Zufallsentscheidung der Nachfolger nach einer Zeit T sind mehr Ameisen auf kurzen Wegen gelaufen  stärkere Spur auf diesen Wegen  mehr Ameisen folgen diesen Wegen  Lösung der Kolonie konvergiert nicht alle Ameisen folgen den stark markierten Wegen  Erkundung Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

10 dynamische Änderung der Umgebung  neue optimale Lösung Beobachtung:
Ameisenexperiment 2 dynamische Änderung der Umgebung  neue optimale Lösung Beobachtung: Ameisen verlassen erste Lösung oft nicht Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

11 Identifizierte Eigenschaften jede Ameisen entscheidet individuell
Markierung macht individuelle Entscheidung den Nachfolgern bekannt Kolonie erwirbt Wissen über Umgebung Mehrheit folgt einer Lösung  Konvergenz in eine Lösung  Konvergenz in lokalen Optima möglich Verlassen einer Lösung nur schwer möglich  globales Optimum nicht garantiert Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

12 Ameisen sind einfache Individuen  einfach zu simulieren
Bewertung Ameisen sind einfache Individuen  einfach zu simulieren hohe Leistungsfähigkeit in komplexen Umgebungen  Erfolgspotential  Schwarmintelligenz allgemeine einfache Voraussetzungen  geringe Problemspezifik algorithmische Umsetzung am Computer Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

13 Ant Colony Optimization Elemente
graphische Repräsentation des Problems Ameisenkolonie Pheromonspur Zeit algorithmische Besonderheit diskrete Zeitschritte Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

14 Graph Knoten Kanten Orte Aufträge Gegenstände
mögliche Beziehungen zwischen den Knoten  Wege der Ameisen bewertet mit Kosten/Entfernungen Pheromonmatrix τij Heuristikmatrix ηij Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

15 Individuen mit Verhaltensregeln
Ameisen Individuen mit Verhaltensregeln laufe durch das Netz probalistische Entscheidung über Weg Nebenbedingungen  bauen Lösung individuelles Gedächtnis Weg Länge Bewertung der eigenen Lösung Markierung der eigenen Lösung Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

16 Stärke der Markierung triff Aussage über Qualität & Häufigkeit
Pheromonspur Stärke der Markierung triff Aussage über Qualität & Häufigkeit Kante Teil eines kurzen Wegs Kante Teil eines oft genutzten Wegs  Aussage über Vorteilhaftigkeit des Wegs Verdunstung Verlassen einer Lösung ermöglichen  vorzeitige Konvergenz verhindern stärkere Erkundung Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

17 ? Entscheidung der Ameise
von wo komme ich? wo darf ich nicht mehr hin? was sehe ich? wie riecht es? Zufallsentscheidung Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe ?

18 Σ Simulation der Zufallsentscheidung
Berechnung der Wahrscheinlichkeiten Längen d der offenen Wege  lokale Informationen  ηij=1/dij : Kehrwert der Länge von Weg ij Pheromonspuren auf offenen Wegen  Wissen der Kolonie aus Erkundung  τij,h : Pheromonspur auf Weg ij α,β : Gewichtungs-/Steuerparameter „Würfeln“  Zufallsexperiment Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe α β (τij) (η ij) pij = Σ α β (τij) (η ij)

19 Pheromonspuraktualisierung
nach jeder Iteration h auf jedem Wegstück ij Verdunstung der alten Spur/Lösung Verdunstungsrate ρ lässt Spur langsam schwächer werden Markierung der neuen Spur/Lösung jede Ameise legt eine neue Spur ihre Weglänge Dk bestimmt Stärke  Qualität der eigenen Lösung Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe τij,h+1 = τij,h(1-ρ) + 1/D1 +1/D2 +…+1/Dk

20 Verhalten des Algorithmus Koloniegröße
vorgegebene Rechenzeit viele Ameisen  breite Erkundung wenige Ameisen  viele Iterationen Pheromonspur / Verdunstungsrate großes ρ  Wahrscheinlichkeit neue Lösungen zu finden kleines ρ  schnelle Konvergenz auf eine Lösung Gewichtungsparameter α,β α<β  heuristische Information betont α>β  iterierte Information betont Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

21 Begrenzung der Pheromonspur
Abwandlungen Elitäre Ameisen beste Ameisen markieren stärker Begrenzung der Pheromonspur Obergrenze (max)  gute Lösungen nicht zu stark gewichtet  Wirkung von Anfangszufällen begrenzt Untergrenze (min)  schlechte Lösungen bleiben erhalten  gegen zu frühes Einschränken Senken der Pheromonspur direkte Nachfolger werden zum Erkunden anderer Wege angeregt . . . Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

22 Anwendungen TSP Vehicle-Routing Zuordnung Ablaufplanung
Rucksackprobleme Proteinfaltung Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

23 Dauern bekannt und fest keine Unterbrechung Ziel:
Maschinenbelegung Auftrag Vorgang Maschinen Dauern bekannt und fest keine Unterbrechung Ziel: Reihenfolge der Aufträge/Vorgänge mit minimalen Kosten/Zeit Besonderheiten: absolute Position von Aufträgen in der Reihenfolge wichtig Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

24 Single Machine Total Tardiness eine Maschine
n Jobs mit Dauern di und End-Fristen fi Ziel: Anordnung der Jobs, die summierte „Fristüberschreitung“ minimiert Graph: Knoten n Positionen n Jobs Kanten mögliche Zuordnungen Job  Position Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

25 Beispiel Graph Lösungskonstruktion Nebenbedingungen Pheromonspur τij 3
n=3 Positionen + n=3 Jobs Fristen fj Dauern dj Kanten Lösungskonstruktion Ameisen ordnen die Jobs den Positionen der Reihe nach zu Nebenbedingungen alle Jobs müssen zugeordnet werden Pheromonspur τij Vorteilhaftigkeit Job j an Position i zu setzen Aktualisierung nach jedem Durchlauf 3 2 3 3 7 3

26 Ameise 1 im ersten Durchlauf wählt zufällig
3 2 3 3 Job Zeit Überschreitung 1 2 7 2 5 2 3 3 8 1 3

27 Ameise 2 im ersten Durchlauf wählt zufällig
3 2 3 3 Job Zeit Überschreitung 2 3 7 3 6 3 1 8 5 5

28 Ameise 3 im ersten Durchlauf wählt zufällig
2 3 3 Job Zeit Überschreitung 1 2 7 3 5 3 1 8 5 5

29 abhängig von Überschreitung  je kleiner desto stärker
Pheromonspuren abhängig von Überschreitung  je kleiner desto stärker neue Ausgangslage beim nächsten Durchlauf Ameise Überschreitung Spur 1 3 6 2 5 4 3 5 4

30 Ameise 1 im zweiten Durchlauf
3 2 3 3 Job Zeit Überschreitung 7 1 2 3 3 5 2 8 5 5

31 Ameise 2 im zweiten Durchlauf
3 2 3 3 Job Zeit Überschreitung 7 1 2 3 2 5 2 3 8 1 3

32 Ameise 3 im zweiten Durchlauf
2 3 3 Job Zeit Überschreitung 7 3 3 3 2 6 3 1 8 5 8

33 Pheromonspuren Ameise Überschreitung Spur 1 5 4 2 3 6 3 8 1

34 Cluster im Tarifraum finden
ähnliche Elemente gruppieren unterschiedliche Elemente separieren Ameisen und Clusteranalyse Objekte (Haltestellen) frei „auf Fläche“ Distanzmatrix zu allen Haltestellen als Maß für Ähnlichkeit/Unterschied Ameisen laufen frei auf Fläche leere Ameisen wollen Objekte aufnehmen beladene Ameisen wollen Objekte ablegen Wahrscheinlichkeit der Aufnahme/Ablage wir durch Unterschied/Ähnlichkeit zu Nachbarn bestimmt Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe

35

36 Zusammenfassung Fragen? allg. Prinzipien einfache Umsetzung
breite Anwendung vielfältige Ausgestaltung oft leistungsfähig Fragen? Kombinatorische Optimierungsprobleme Heuristiken & Metaheuristiken Natürliche Algorithmen Ameisensysteme Beispiel Zusammenfassung & Fragen? Hausaufgabe