1 More than a paradigm, swarms are almost, at times, an archetype. Millonas, 1993 zitiert aus Swarm Intelligence; Kennedy & Eberhart Ausarbeitung und Vortragspräsentation.

Präsentation zum Thema: "1 More than a paradigm, swarms are almost, at times, an archetype. Millonas, 1993 zitiert aus Swarm Intelligence; Kennedy & Eberhart Ausarbeitung und Vortragspräsentation."—  Präsentation transkript:

1 1 More than a paradigm, swarms are almost, at times, an archetype. Millonas, 1993 zitiert aus Swarm Intelligence; Kennedy & Eberhart Ausarbeitung und Vortragspräsentation J.Frietsch Sommer 2003

2 2 Ant Colony Algorithmen & Stigmergy Gliederung –Definition TSP Stigmergy –Ant System Charakteristik –Ant Colony System Modifikationen zu AS –Studien zur Funktionsweise

3 3 Ant Colony Algorithmen & Stigmergy Gliederung –Definition TSP Stigmergy –Ant System Charakteristik –Ant Colony System Modifikationen zu AS –Studien zur Funktionsweise

4 4 Ant Colony Algorithmen & Stigmergy Definition Traveling Salesman Problem Sei V = {a,..., z} eine Anzahl Städte, E = { (i, j) : i, j V} eine Anzahl von Kanten, (i, j) = (j, i) ein Kostenmaß, das mit Kante (i, j) E in Zusammenhang steht. Dann ist das TSP das Problem eine geschlossene Tour minimaler Kosten zu finden, die durch jede Stadt genau einmal führt.

5 5 Ant Colony Algorithmen & Stigmergy Definition Mathematisches für die 1-te Stadt von n Städten gibt es n-1 mögliche Verbindungen für die 2-te Stadt gibt es dann noch n-2 mögl. Kanten (...) für die (n-1)-te folglich n-(n-1) Kanten, die zur n- ten Stadt führt, wo die Tour geschlossen wird. man erhält durch Kombination (n-1)! mögliche Touren das sind doppel so viele wie notwendig, weil der Kreis sowohl von a bis z als auch rückläufig von z bis a beschritten wird, bei gleicher Länge L es gibt also insgesamt (n-1)!/2 mögliche Lösungen

6 6 Ant Colony Algorithmen & Stigmergy Definition Traveling Salesman Problem Warum TSP?: klassisches Pfadoptimierungsproblem leicht zu adaptieren für Ameisenstaaten große Anzahl von Vergleichsalgorithmen didaktisch leicht zugänglich NP-hartes Problem, jedoch nicht aufgrund der Anzahl der Lösungen, sondern weil die Länge der Wege im schlimmsten Fall brute force aufsummiert und verglichen werden muss..

7 7 Ant Colony Algorithmen & Stigmergy Definition Stigmergy indirekte Informationsvermittlung durch die Analyse sich verändernden Umweltparametern Beispiele:Google (Pagerank) Insektensoziäten

8 8 Ant Colony Algorithmen & Stigmergy Gliederung –Definition TSP Stigmergy –Ant System Charakteristik –Ant Colony System Modifikationen zu AS –Studien zur Funktionsweise

9 9 Ant Colony Algorithmen & Stigmergy Ant System der Ant System Algorithmus wurde von Dorigo, Maniezzo und Colorni vorgestellt (1996) bei kleineren TSP konkurrenzfähig zu herkömmlichen heuristischen Algorithmen wie GA oder SA.

10 10 Ant Colony Algorithmen & Stigmergy Ant System Idee: dynamische Pheromon-Markierung (+) Feedback: virt. Pheromone bestärken die Lösungen die an der Prod. vorangegangener guter Lösungen beteiligt waren. (-) Feedback: Zerfall virt. Phero.spuren verhindert, das der Schwarm auf suboptimale Lösungen konvergiert.

11 11 Ant Colony Algorithmen & Stigmergy Ant System Ziel: Suche nach T max Prinzip: Etablieren eines Attraktors (+) Suchen der jeweils kürzesten Tour T + der Iteration t mit der Länge L + (-) Erhöhung der Freiheitsgrade des Systems um vom Attraktor abweichen zu können

12 12 Ant Colony Algorithmen & Stigmergy Ant System Grundlagen: Sei n die Zahl der Städte und m die Zahl der Ameisen k, dann gilt vereinfachend m = n (jeder Ameise ihre Stadt) In der Iteration t (t = 1,...,t max ) findet jede Ant in n - 1 Schritten eine Tour T der Länge L, eine davon ist die kürzeste T + = ein vorläufiger Attraktor

13 13 Ant Colony Algorithmen & Stigmergy Ant System Stadtübergänge (Transitions): Regeln für den Übergang einer Ant k von der Stadt i nach j 1Sie hat ein Arbeitsgedächtnis J, in dem die Städte vermerkt sind, die sie noch besuchen muss 2Der Kehrwert der Distanz d ist die Erreichbarkeit 3Die Intensität der Pheromonspur von i nach j ist ij (t) die in der globalen Pheromonverteilung gespeicherte Information verändert sich während der Problemlösung und repräsentiert den Erfahrungsgewinn des Ameisenstaates

14 14 Ant Colony Algorithmen & Stigmergy Ant System Entscheidungsgesetz ( für i nach j ) (Transition Rule) p: Wahrscheinlichkeit : Erreichbarkeit : Spurintensität J: Arbeitsgedächtnis der Ant k

15 15 Ant Colony Algorithmen & Stigmergy Ant System Pheromonmarkierung (t): nach Ende der Tour für jede Kante, die auf dem Weg der Ant k lag. Je kürzer die Tour war desto mehr Pheromon Q: Belohnungsquant k ij (t): Pheromon-Menge der Ant k für Kante(i, j)

16 16 Ant Colony Algorithmen & Stigmergy Ant System Probleme! (+): der Attraktor wird zu mächtig! Früher oder später enden alle Ameisen auf dem gleichen Pfad, der einer der zufälligen Anfangsfluktuationen entspricht suboptimale Lösung und Stagnation

17 17 Ant Colony Algorithmen & Stigmergy Ant System (-): der Ausweg: Einführung einer Zerfallskonstante für das Pheromon (mit 0 < <1) Korrekturformel (Global Update Rule):

18 18 Ant Colony Algorithmen & Stigmergy Gliederung –Definition TSP Stigmergy –Ant System Charakteristik –Ant Colony System Modifikationen zu AS –Studien zur Funktionsweise

19 19 Ant Colony Algorithmen & Stigmergy Ant System Charakteristik: (+) Elite-Ameisen zur Verbesserung der Performance sie markieren die beste gefundene Lösung T+ zusätzlich Sinn: Vermutlich enthält diese bereits Kanten von Tmax die so bei jeder Iteration bestärkt werden. Unterstützung des Attraktors und Ermöglichung einer Feinjustierung durch Anzahl der Elite-Ameisen

20 20 Ant Colony Algorithmen & Stigmergy Ant System Charakteristik: konkurrenzfähig: bei kleineren TSP (30-70 n) schwach: bei komplexen TSP konvergierte der Algorithmus zu früh auf suboptimale Lösungen hohe Diversität an Lösungspopulationen

21 21 Ant Colony Algorithmen & Stigmergy Gliederung –Definition TSP Stigmergy –Ant System Charakteristik –Ant Colony System Modifikationen zu AS –Studien zur Funktionsweise

22 22 Ant Colony Algorithmen & Stigmergy Ant Colony System Ist eine Weiterentwicklung von Ant System und entstand in Zusammenarbeit von Dorigo & Gambardella (1997) außergewöhnlich leistungsstarke Performance auch bei komplexeren Problemfeldern.

23 23 Ant Colony Algorithmen & Stigmergy Ant Colony System 3 wichtige Weiterentwicklungen 1eine verfeinerte Transition Rule 2Local Update Rule in d. Schrittschleife 3eine geänderte globale Korrekturformel als Weiterentwicklung der Elite-Ameise (Global Update Rule)

24 24 Ant Colony Algorithmen & Stigmergy Ant Colony System zu 1: Transition Rule durch Hinzufügen einer Konstante q o wird eine Feinjustierung möglich (0 < q 0 < 1), indem q o bei jedem Schritt mit einer beliebigen Zufallszahl q verglichen wird. (0 < q < 1) q < q 0 : (+) sichere Stadt u nahe am Attr. q > q 0 : (-) Erkundung wird bevorzugt.

25 25 Ant Colony Algorithmen & Stigmergy Ant Colony System zu 1: Transition Rule durch Hinzufügen einer Konstante q o wird eine Feinjustierung möglich (0 < q 0 < 1) q < q 0 : (+): die Ant k nutzt das gesamte gespeicherte Problemwissen und wählt eine sichere Stadt u nach: arg max u J k i {[ iu (t)] * [ iu ] }

26 26 Ant Colony Algorithmen & Stigmergy Ant Colony System zu 1: Transition Rule durch Hinzufügen einer Konstante q o wird eine Feinjustierung möglich (0 < q 0 < 1) q > q 0 : (-): die Ant k wählt analog der Entscheidungsregel aus Ant System eine Stadt ihres Arbeitsgedächtnisses J

27 27 Ant Colony Algorithmen & Stigmergy Ant Colony System zu 2: Local Update Rule in der Schrittschleife (-) beim Passieren d. Kante (i, j) durch k ij (t) (1 - ρ ) * ij (t) + ρ * 0 wird die Spurintensität vermindertd. h. je länger die Iteration voranschreitet desto unattraktiver wird T+

28 28 Ant Colony Algorithmen & Stigmergy Ant Colony System zu 2: Local Update Rule in der Schrittschleife die führt zu einer besseren Ausnutzung der in der Pheromonspur enthaltenen Information. Bleibt T+ die kürzeste Verbindung nach Ende der Iteration, bleibt er trotzdem der Attraktor und wird durch die Global Update Rule bestärkt

29 29 Ant Colony Algorithmen & Stigmergy Ant Colony System zu 3: Global Update Rule nach der Iteration die Beste Ameise markiert am Ende der Tour nur die Kanten, die seit t = 1 T + waren ij (t) (1 - ρ ) * ij (t) + ρ * ij (t) mit ij (t) = 1/L + (+) Sinn: es wird vordringlich in der Nähe von T + gesucht.

30 30 Ant Colony Algorithmen & Stigmergy Ant Colony System Verfahrensfluß:: Ant k entscheidet zwischen (+) u und (-) J (+): es wird vordringlich in der Nähe des Attraktors T+ gesucht (-) durch das Local Update Rule wird es möglich von T+ abzuweichen und andere Lösungsalternativen zu erkunden (+) Schlägt die Erkundung fehl, bleibt T+ Attraktor der nächsten Iteration

31 31 Ant Colony Algorithmen & Stigmergy Gliederung –Definition TSP Stigmergy –Ant System Charakteristik –Ant Colony System Modifikationen zu AS –Studien zur Funktionsweise

32 32 Ant Colony Algorithmen & Stigmergy Studien der Funktionsweise 50 Städte Standard-Problem im ACS gelöst Anschaulich ist zu sehen, dass es nicht immer die am stärksten markierten Kanten sind, die den Kreis schließen. Jede schwache Kante, kann Ausgangspunkt für eine alternative Lösung werden.

33 33 Ant Colony Algorithmen & Stigmergy Studien der Funktionsweise 50 Städte Problem im ACS gelöst

34 34 Ant Colony Algorithmen & Stigmergy Studien der Funktionsweise 50 Städte Problem im ACS gelöst in der folgenden oberen Grafik ist die Standardabweichung von L gegen die Iteration aufgetragen. in der unteren Grafik der durchschnittliche Vernetzungsgrad der einzelnen Knoten ist T max ermittelt müsste der Vernetzungsgrad 2 erreicht sein. = rein in die Stadt und raus aus der Stadt

35 35 Ant Colony Algorithmen & Stigmergy Studien der Funktionsweise Standardabweichung und Vernetzungsgrad

36 36 Ant Colony Algorithmen & Stigmergy Studien der Funktionsweise Lösungspopulationen konvergieren nicht auf ein gemeinsames Lösungsoptimum fortwährend werden neue Lösungsalternativen produziert zeigt sich z.B in einer hohen Standardabweichung der Tourlänge L durchschnitt. Knotenverzweigung größer 2 ( nämlich 5) d. h. selbst wenn T max ermittelt ist, sucht ACS weiter, aber T max wird der ewige Attr. bleiben.

37 37 Ant Colony Algorithmen & Stigmergy Studien der Funktionsweise diese Nonkonvergenz-Eigenschaften sind charakt. für viele Swarm basierte Systeme hohe Diversität seiner Lösungspopulationen bewahrt ihn in lokalen Optima gefangen zu werden deshalb besondere Eignung für dynamische Problemfelder, bei denen die Ausgangsbedingungen sich in Realzeit ändern (z.B. indem neue Städte hinzugefügt werden).

38 38 Ant Colony Algorithmen & Stigmergy Conclusio archetype Die von den Ameisen erkundete und mit Pheromonen markierte Welt fungiert als eine Art Gedächtnis, das die Entscheidungsgrundlage liefert für die nächste, bessere!, Erkundungswelle des Schwarms.

39 39 Ant Colony Algorithmen & Stigmergy Literatur [1] KENNEDY, J. & EBERHART, R.. (2001): Swarm Intelligence. Morgan Kaufmann Publishers. San Francisco, San Diego, New York, Boston, London, Sydney, Tokyo. [2] BONABEAU, E, DORIGO, M. & THERAULAZ, G. (1999): Swarm Intelligence - from Natural to Artificial Systems. Oxford. [3] DORIGO, M. & GAMBARDELLA, L.M. (1997): Ant Colony System: A Cooperative Learning Approach to the Traveling Salesman Problem. IEEE Transactions on Evolutionary Computation, Vol. 1, No. 1, 53-66. [4] DORIGO, M., Di CARO, G. & GAMBARDELLA, L.M. (1999): Ant Algorithms for Discrete Optimization. Artificial Life, Vol. 5, No. 3, 137-172.