Die Präsentation wird geladen. Bitte warten

Die Präsentation wird geladen. Bitte warten

Uebung 03 Netzdateien. SS 2011H. Werner : DatenalyseUebung 3 : 2 Neuronale Netze Ein neuronales Netz besteht aus Neuronen und Verbindungen. Die Neuronen.

Ähnliche Präsentationen


Präsentation zum Thema: "Uebung 03 Netzdateien. SS 2011H. Werner : DatenalyseUebung 3 : 2 Neuronale Netze Ein neuronales Netz besteht aus Neuronen und Verbindungen. Die Neuronen."—  Präsentation transkript:

1 Uebung 03 Netzdateien

2 SS 2011H. Werner : DatenalyseUebung 3 : 2 Neuronale Netze Ein neuronales Netz besteht aus Neuronen und Verbindungen. Die Neuronen haben Aktivitäten und Outputs, die aus den Aktivitäten mit Outputfunktionen berechnet werden. Die Verbindungen haben zwei Neuronen als Start und Ziel, sowie ein Gewicht, das die Übertragung des Outputs vom Start in den Input vom Ziel regelt.

3 SS 2011H. Werner : DatenalyseUebung 3 : 3 Netz-Daten Die Verbindungsgewichte eines Netzes können also in einer quadratischen n x n _ Matrix angeordnet werden, wobei n die Anzahl der Neuronen ist. Für die Neuronen ist noch eine (oder zwei) weitere n_Zeile(n) notwendig um die Aktivitäten (und/oder Outputs) aller Neuronen aufzunehmen.

4 SS 2011H. Werner : DatenalyseUebung 3 : 4 Zusatzinformationen Neben den Neuronenzuständen und Verbindungsgewichten gibt es noch weitere interessante Informationen die zu den Netzdaten gerechnet werden können. –Für jedes Neuron ist festzuhalten, welche Outputfunktion es verwendet. –Es sind die Neuronen zu markieren, über die der Input ins Netz eingespeist wird. –Es sind die Neuronen zu markieren, über die der Netzoutput nach außen geleitet wird. –Für eine bildliche Darstellung des Netzes könnten für jedes Neuron seine Position als kartesische Koordinaten angegeben werden.

5 SS 2011H. Werner : DatenalyseUebung 3 : 5 Neuronengruppen Bei der Behandlung von hochdimensionalen Datensätzen entstehen Netzwerke mit z.T. riesigen Zahlen von Neuronen, die einzeln nicht mehr handhabbar sind. In solchen Fällen ist es sinnvoll, die Neuronen in Gruppen einzuteilen, deren Elemente eine gleichartige Rolle im Netzwerk spielen und dann den Netzaufbau gruppenweise zu konstruieren. Gruppen stellen ein Konstruktionsmittel dar und haben keinen Einfluss auf die Funktionalität des Netzwerks. Sie erlauben die Zerlegung der großen Gewichtsmatrix in kleinere handhabbare Teile.

6 SS 2011H. Werner : DatenalyseUebung 3 : 6 Header einer Netzdatei Im Header (Kommentar) unterzubringende Daten: –Gruppengrößen : n 1, n 2, …, n k –Neuronenzahl : n= n 1 + n 2 + …+ n k –Outputfunktionen : θ 1, θ 2, …, θ k –Koordinaten : ( x 1, y 1 ),( x 1, y 1 ),…, ( x k, y k ) –Neuronenmerkmale: ψ 1, ψ 2, …, ψ k (z.B. Input-, Output-, hidden, …)

7 SS 2011H. Werner : DatenalyseUebung 3 : 7 Netzdatei Matrizen Neuronenbereich mindestens 1 Block: –Kommentar: # Aktivität (bzw. Output) –K Zeilen der Längen n 1, n 2, …, n k Matrizenbereich mehrere Blöcke –Kommentar # i->j – n j Zeilen der Länge n i mit den Gewichten der Verbindungen von Neuronen aus Gruppe i zu Neuronen aus der Gruppe j Der Vorteil des Gruppenansatzes ist, daß statt einer großen Matrix mehrere kleine Matrizen betrachtet werden.

8 SS 2011H. Werner : DatenalyseUebung 3 : 8 Rückkopplungen Unter einer Rückkopplung (feedback) verstehen wir eine Folge von Neuronen-Verbindungen, die von von einem Neuron zu ihm selbst zurückführen, d.h. wir haben Neuronen a 1, a 2, … a m wobei für alle i

9 SS 2011H. Werner : DatenalyseUebung 3 : 9 Feedforward Netze Wenn man an die Gruppen, die man zur Konstruktion heranzieht die Bedingung knüpft, daß es innerhalb der Gruppe überhaupt keine Verbindung gibt, kann man Rückkopplungsfreiheit dadurch erzwingen, daß man verlangt, daß es aus jeder Gruppe nur Verbindungen in Gruppen mit einem höheren Index gibt. Ein Weg, dies zu erzwingen, ist, bei der Konstruktion nach jeder Erzeugung einer Gruppe zuerst alle Verbindungen in diese Gruppe zu erzeugen, bevor die nächste Gruppe erzeugt wird. Dann kann es nämlich keine Verbindung aus einer später erzeugten Gruppe in diese Gruppe mehr geben. Dieses einfache Verfahren ist bei einer Neukonstruktion zwar sehr bequem, kann aber bei der Veränderung eines schon konstruierten Netzes scheitern.

10 SS 2011H. Werner : DatenalyseUebung 3 : 10 Sortierverfahren Wenn man für ein Netz herausfinden will, ob sich darin Rückkopplungen befinden, kann man folgenden Schichtungsversuch starten: –Beginne im Schritt 0 mit allen Neuronen (oder Gruppen), in die keine Verbindungen hineinführen und nenne diese Schicht 1. –Bei jedem weiteren Schritt i nimm alle Neuronen (oder Gruppen), in die nur Verbindungen aus den bereits erzeugten Schichten hineinführen und nenne diese Schicht i+1 –Das Verfahren endet, wenn es keine Neuronen (oder Gruppen) für einen weiteren Schritt mehr gibt. Wenn jetzt noch Neuronen (Gruppen) im Netz übrig bleiben, fassen wir sie in einer Schicht 0 zusammen. Dann gibt es innerhalb Schicht 0 Rückkopplungen und die übrigen Schichten stellen den rückkopplungsfreien Teil des Netzes dar.

11 SS 2011H. Werner : DatenalyseUebung 3 : 11 Aufgabe Wir gehen davon aus, daß alle Neuronen (bzw. Gruppen) durchgehend nummeriert sind (1,…,n) und daß wir jede direkte Verbindung von i nach j als das Paar (i,j) notieren. Programmiere eine Funktion Schichtung(M), die eine beliebige Menge M von Paaren (i,j) mit i,jn entgegennimmt und als Ausgabe die Schichten notiert in der Form {k,l,…}, wobei Schicht 0 als letzte notiert wird. Die Verbindungen erlauben also keine Rückkopplung, wenn die letzte Schicht als {} ausgegeben wird.


Herunterladen ppt "Uebung 03 Netzdateien. SS 2011H. Werner : DatenalyseUebung 3 : 2 Neuronale Netze Ein neuronales Netz besteht aus Neuronen und Verbindungen. Die Neuronen."

Ähnliche Präsentationen


Google-Anzeigen