Diskrete Modellierung 3. Vorlesung Diskrete Modellierung Automaten Zellular Automat Binäre Netzwerke Vorlesung WS 06/07 Modellierung & Simulation Überblick

Diskrete Modellierung Grundidee: Darstellung durch abstrakte Zustände. Zustände und Zustandsübergangsregeln  qualitative Analyse des Metabolismus. Verschiedene Strömungen sind sichtbar: - Black-Box-Modell,  - Graph­theoretische Ansätze, - Formale Sprachen und Automaten und - Methoden der KI. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Diskrete Modellierung der Genregulation / Zellularautomat Idee: Prozesse der Selbstorganisation und Musterbildung auf lokale Wechselwirkungen reduzieren. Struktur: Ansammlung von Endlichen Automaten (Elementen). Jedes Element besitzt eine Reihe von Zuständen (Zustandsraum). Regeln: Definieren den Zustandswechsel. Generation: Zustandswechsel vom Zeitpunkt t zum Zeitpunkt t+1. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

J. von Neumann - Modell des ZA (50er) Annahmen: - Diskrete Raumkoordinaten. - Jedem Element (Zelle) sind Werte (Zustände) aus einem endlichen Zustandsraum zugeordnet. - In der Regel liegt eine Diskretisierung vor. - Zeit ist diskret und das Regelwerk ist deterministisch. Anwendungsspektrum ist vielfältig: - Diffusionsphänomene, - Epidemien, - Evolutionstheorien und - Populationsdynamik. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Informatik - Verbund von Endlichen Automaten (E.A.) = ZA E. A. ist eine eingeschränkte TM (Kleene 1953): - Band (in Felder unterteilt), - Arbeitsaphabet, - Lesekopf und - Kontrolleinheit (KE). A = (, Q, q0, F, ) heißt endlicher Automat:  endliches Alphabet, Q endliche Menge von Zuständen, qo Startzustand, F Teilemenge aus Q - Menge der Endzustände und  Teilmenge aus (Q x ) x Q. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Idee ZA: Systeme studieren, die sich selbst reproduzieren können. ZA := Endliche Menge von E.A. Jeder E.A. kann einen Zustand aus Q annehmen und steht mit Nachbarzellen in Verbindung. Zustandswechsel eines Automaten in diesem Verbund: Zustandsübergangsrelation   Qn x Q, d.h. in Abhängigkeit der Zustände der definierten Nachbarschaft. Zustandswechsel: Anwendung von  auf alle Zellen. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Sei k die Zahl der Zustände pro Zelle und Aufgaben: - Dimension festlegen, - Nachbarschaft definieren, - Zustandsraum festlegen und - Regeln festlegen. Sei k die Zahl der Zustände pro Zelle und n die Mitgliederstärke der Nachbarschaft, so gibt es k**k**n mögliche Regeln. Beispiel: Binärer Automat und - v. Neumann Nachbarschaft - 2**2**4 ~ 65000 Regeln - Moore-Nachbarschaft - 2**2**8 - 10**77 Regeln Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Der Z.A. ist ein diskretes System: - Abstraktion auf einen Zustandsraum, - Zustandsänderungen durch Regeln festlegen und - diskrete Zeitpunkte festlegen – Gesamtzustand. Bei der Konzeption eines Automaten ist zu beachten: - Konkrete Realisierung des Zustandswechsels, - Situation am Rand und - Nachbarschaften festlegen. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Nachbarschaften: Moore, v. Neumann oder hexagonal. Simulatoren erlauben auch dynamische Nachbarschaft ? Rand: Häufig wird hier der Torus verwendet. Generationswechsel: Quasi parallel, etc. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Der bekannteste Z.A. ist das ‘life game’ von Conway. Es wird normalerweise 2D festgelegt. http://www.bitstorm.org/gameoflife/ Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Moore Nachbarschaft und Regelmenge:  Q = {0,1} mit - 0 = Tod und - 1 = Leben. Moore Nachbarschaft und Regelmenge:   1: Eine Zelle, die zur Zeit t tot war, wird zur Zeit t+1 lebendig, gdw drei der acht Nachbarn zur Zeit t gelebt haben. 2: Eine Zelle, die zur Zeit t gelebt hat, stirbt zur Zeit t+1 gdw zur Zeit t <2 oder >3 Nachbarn leben. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Lineare Automaten (LA) ::= Eindimensionaler ZA Generation ::= Zustände einer Zellinie zum Zeitpunkt t. Idee: Aufeinanderfolgende Generationen untereinander auftragen. 2-D Muster mit Raum und Zeitachse. In diesem Fall gibt es zwei direkte Nachbarn. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Wolfram hat diese Automaten experimentell untersucht. Einteilung in Klassen: 1: Regeln, die einen stabilen gleichförmigen Zustand herleiten. 2: Regeln, die einfache Gebilde erzeugen, die stabil oder periodisch sind. 3: Regeln, die chaotische Gebilde erzeugen. 4: Regeln, die komplexe räumliche und zeitliche Muster erzeugen. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Konzeptionell wichtige Beispiele: 1.    Eindimensionale boolesche Automaten, 2.    Erregbare Medien als ZA, 3.   Erregbares Medium mit stochastischen Elementen: Forest-Fire-Modell. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Eindimensionale Boolesche Automaten = lineare Automaten mit dem Zustandsraum {0,1}. Einfaches Beispiel (populationsdynamisches). Element = 1, wenn beide Nachbarn im Zustand 1 sind. Er soll bei nur einem Nachbarn im Zustand 1 unverändert bleiben und bei keinem Nachbarn mit dem Wert 1 auf 0 gesetzt werden. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Acht Nachbarschaftskonfigurationen: (111), (110), (101), (100),   (111), (110), (101), (100), (011) , (010), (001), (000). Dabei hängt der Wert einer Zelle n zum Zeitpunkt t+1 ab von: - dem Wert der Zelle n-1, - dem Wert der Zelle n und - dem Wert der Zelle n+1 zum Zeitpunkt t. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Unser Beispiel kann als 1-D-Life bezeichnet werden: Alle Nachbarschaften, die mindestens zwei Elemente im Zustand 1 besitzen, sollen auf eins gesetzt werden. Alle anderen Konfigurationen werden auf Null gesetzt. 1111, 110  1, 101  1, 100  0, 011  1, 010  0, 001  0, 000  0 Das Verhalten solcher Automaten beschreiben die Arbeiten von Wolfram. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Erregbare Medien als Zellularautomaten Modellvorstellung einer speziellen raumzeitlichen Dynamik, die vielseitige Anwendung besitzt. Formal handelt es sich um ein räumlich angeordnetes Ensemble von identischen Elementen, für die mindestens drei Zustände existieren: R: Ruhend, A: Angeregt, E: Erholend (refraktär). Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Erregbare Medien als Zellularautomaten Ein einzelnes Element durchläuft diese Zustände immer in derselben Reihenfolge: 1. Vom ruhenden Zustand wechselt es in den angeregten Zustand. 2. Nach einer bestimmten Zeit fällt es in den erholenden Zustand, in dem es eine feste Zeit verweilt. 3. Danach geht es wieder in den ruhenden Zustand über. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Charakteristische Dynamik - propagierende Wellenfronten Zustandsraum := {R,A,E}. Regeln: 1. Ist das (ij)-te Element im Zustand aij=R, so geht es im nächsten Schritt in Zustand A über, wenn in seiner Nachbarschaft N(aij) (mindestens) ein Element im Zustand A ist. 2. Ist ein Element im Zustand A, so geht es stets im nächsten Zeitschritt in den Zustand E über. 3. Ein Element im Zustand E geht nach t Zeitschritten in den Zustand R über. Charakteristische Dynamik - propagierende Wellenfronten Durch das Zusammentreffen solcher Wellen treten Spiralwellen auf. Solche Wellen konnten beobachtet werden: Herzzellen, neuronale Zellen und chemische Reaktionen. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Das Forest-Fire Modell Ursprünglich ein Modell für Waldbrände. Es charakterisiert Eigenschaften der ökologischen Selbstorganisation. Zustandsraum: T: Baum F: Brennender Baum E: Leerer Platz Diese Zustände werden wie folgt durchlaufen: T  T  F  E  E  E  T Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Wichtig sind zwei Wahrscheinlichkeiten, die in das Modell einzubeziehen sind: Blitzwahrscheinlichkeit f und Wachstumswahrscheinlichkeit p.   Die folgenden vier Regeln sind anzuwenden: 1. Jeder brennende Baum geht in einen leeren Platz über. Jeder Baum wird zu einem brennenden Baum, wenn ein brennender in der Nachbarschaft ist. 3.  Ist kein brennender Baum in der Nachbarschaft, so wird ein Baum mit der Wahrscheinlichkeit f zu einem brennenden Baum. 4.  Ein leerer Platz wird mit der Wahrscheinlichkeit p zu einem Baum. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Für p,f <<1 liegen Spiralwellen und Ringstrukturen vor. Brände propagieren dabei in Form von Ringwellen, aufeinanderftreffende Feuerfronten löschen sich aus und Hindernisse führen zur Ausbildung von Spiralen.   Ist f = 0 und p nicht zu klein, so füllt sich das Raumgitter mit Bäumen. Perkolationsmuster: Ein Cluster von Bäumen erstreckt sich über das gesamte Feld. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Grundlegend: Pleiotrope und multigenetische Regulation. Aufgabe: Genetische Netzwerke Grundlegend: Pleiotrope und multigenetische Regulation. Aufgabe: Tools erstellen, um die systematische Analyse molekularer Netzwerke zu unterstützen. Boolesche Netzwerke erlauben diese Modellierung: Gen: Inputs von anderen Genen oder sich selbst. Dynamik: Nachbarschaft und die zu definierenden Regeln.  Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

“Randomly Constructed Genetic Nets” S. Kauffman: Connected feedback nets binärer Gene weisen Stabilität auf. Vorteil der binären Modellierung: Endliche Zahl der möglichen Regeln. Es können sogenannte switching nets konstruiert werden: a)    k inputs werden zufällig gewählt. b)    Eine der 2**2**k möglichen Regeln wird per Zufall gewählt. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Kauffman betrachtete Netzwerke in denen jedes Gen inputs von: Frage: Anzahl der Gene, deren Syntheseprodukte den Output anderer Gene beeinflussen ? 1969 unbekannt ! Kauffman betrachtete Netzwerke in denen jedes Gen inputs von: 1. Allen anderen Genen erhält. 2. Einem input per Gen. 3. Zwei inputs per Gen. 4. Drei inputs per Gen. Außerdem betrachtete er Netze in denen alle möglichen booleschen Funktionen via random dem Element zugewiesen werden. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Aktivität eines Gens := 1 Das Modell Gen := „binäres Gerät“, das eines der möglichen booleschen Funktionen der k inputs umsetzt. Aktivität eines Gens := 1 Wert aller outputs zur Zeit t+1 ebenfalls 1 (diskrete Zeitschritte). Ein formales genetisches Netz wird konstruiert, indem: eine Menge N von Elementen des Netzwerkes und eine endliche Menge k von inputs ausgewählt wird. Jedes Gen empfängt genau k inputs (aus Elementen des Netzes). Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Netze werden per random konstruiert - unter zwei Bedingungen: 1. Die k inputs eines jeden Gens werden per random ausgewählt. 2. Zu jedem Gen wird eine der booleschen Funktionen gewählt. Annahme: Alle Gene in einem Zeittakt berechnen. Ein solches genetisches Netz ist ein Endlicher Automat. Zustand := Vektor, der die Genaktivität der N Elemente des Netzes im Zustand t beschreibt. Somit gibt es 2**N Zustände.  Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

1. System zur Zeit t in einem definierten Zustand z. Zustandswechsel: 1. System zur Zeit t in einem definierten Zustand z. 2. Jedes Gen betrachtet zum Zeitpunkt t den aktuellen Wert der k inputs und berechnet auf der Grundlage der zugewiesenen booleschen Funktion den neuen Wert t+1. Anzahl der Zustände ist endlich. Zyklus und Zykluslänge ergibt sich hier aus der Zahl der Zwischenzustände. Formales genetisches Netz muss wenigstens einen Zyklus besitzen! Anzahl der Zyklen ist die Anzahl der behavior cycels. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Total verbundene Netze (k = N) Rubin 1954: Länge des behavior cycle ist die Quadratwurzel der Zahl 2**N.  Somit ergibt sich für total vernetzte Netze mit 200 Elementen und 2**200 Zuständen eine Zykluslänge von 2**100 Zuständen. Diese Netze sind biologisch unmöglich.   Einer Netze (k=1) Auch diese Netze haben keine biologische Relevanz. Hier stellen sich unzählige Zustandszyklen ein. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Kauffman studierte Netze mit 15, 50, 64, 100, 191, Zweier Netze (k = 2) Kauffman studierte Netze mit 15, 50, 64, 100, 191, 400, 1024, 4096 und 8191 Elementen. Netze mit 1000 Elementen besitzen 2**1000 mögliche Zustände. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Programm konstruiert ein Netz der Größe N und Zweier Netze (k = 2) Programm konstruiert ein Netz der Größe N und weist die Inputs zufällig zu. Außerdem wird jedem Element zufällig eine der 2**2**2 = 16 Booleschen Funktionen zugewiesen. Initialzustand auswählen und dann Nachfolgezustände bestimmen. Letztlich wird ein Zyklus identifiziert. Die Zykluslängen sind in solchen Netzwerken sehr kurz. Er hat 100 Netze der verschiedenen Größen betrachtet. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Alle 2**2**3 = 256 Booleschen Funktionen wurden betrachtet. Dreier Netze (k = 3) Kauffman hat Netze mit 15, 20, 25 und 50 Elementen simuliert, die alle drei inputs von anderen Genen erhielten. Alle 2**2**3 = 256 Booleschen Funktionen wurden betrachtet. In diesen Simulationen werden die Zyklen länger und die Anzahl der Zyklen ist mit k = 2 vergleichbar. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Replikation: Phänomen der metabolischen Prozesse. Zell-Zyklus-Zeit Replikation: Phänomen der metabolischen Prozesse. Van’t Hof und Sparrow (1963) zeigten: Replikation (Zeit) eine Funktion der Anzahl der Basenpaare. Hypothese: In höheren Organismen ist die minimale Zell-Replikations-Zeit eine lineare Funktion der DNA per Zellkern.  Bakterien mit wenig DNA benötigen Minuten. Außerdem gingen die beiden von einem zweiten Mechanismus aus, der für eine steile lineare Steigung verantwortlich ist. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Grundlegend Aussage von Goodwin (1963): Kauffman: Zell-Replikations-Zeit einer Zelle ist als Funktion der Anzahl der Gene pro Zelle zu betrachten. Grundlegend Aussage von Goodwin (1963): Zeit, um ein Gen an oder aus zu stellen, ist 5-90 Sekunden.  ca. 1 Minute für den Zustandswechsel in realen Netzwerken. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Modell: Zykluslänge von 100 vorhergesagt  biochemische Realisierung benötigt 100 Minuten. Das Verhalten der zufälligen Netzwerke liegt in diesen Bereichen. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Aus einer Zelle entwickelt sich eine Vielzahl von Zelltypen. Zelldifferenzierung Aus einer Zelle entwickelt sich eine Vielzahl von Zelltypen. Charakteristiken: - Initiation, - Stabilisierung nach einem Zustandswechsel, - Zeitperioden in denen eine Zelle einen Zustandswechsel durchführen kann, ... Viele dieser Punkte sind mit den definierten Netzwerken diskutierbar. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Kauffman: Organismus = Netzwerk von chemischen Reaktionen. Zelldifferenzierung Kauffman: Organismus = Netzwerk von chemischen Reaktionen. Idee: Erste Organismen haben ihre Netzwerke zufällig aufgebaut oder zumindest hat die Mutation kontinuierlich die Netzwerke verändert. Fundamentale Frage: Zeit ausreichend, um aus einer Ansammlung ungeordneter Reaktionen die heute stabilen Netzwerke der Organismen evolutionär zu konstruieren oder ob die lebenden Systeme mit den zufälligen Automaten verwandt sind. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Kauffmans Daten zeigen: Große und zufällig vernetzte feedback Netzwerke binärer Gene verhalten sich wie die Stabilitäten in Organismen. Sie durchleben kurze stabile Zyklen und die Zeit für das Durchlaufen dieser Zyklen entspricht der Replikations-Zeit der Organismen. Die Anzahl der unterscheidbaren Formen im Verhalten dieser Netzwerke entspricht in etwa der Anzahl der Zelltypen in einem Organismus.   Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung

Die ersten Organismen haben ihre Reaktionsnetze zufällig aufgebaut Dann könnten die betrachteten Netzwerke eine adäquate Theorie des Verhaltens solcher Netzwerke darstellen. Ähnlichkeiten der realen Daten und der Daten der Simulation  Vermutung das die Organismen in der Tat eine Population darstellen, die sich auf der Basis solcher Netzwerke erklären lässt. Vorlesung WS 06/07 Modellierung & Simulation Diskrete Modellierung