Klassifikation und Regression mittels neuronaler Netze

Slides:



Advertisements
Ähnliche Präsentationen
Kopplung von Simulation und Optimierung
Advertisements

Präsentiert von Torben Pastuch
Perceptrons and the perceptron learning rule
Kohonennetze für Information Retrieval mit User Feedback
Adaptive Systeme Prof. Rüdiger Brause WS 2011.
TECHNISCHE UNIVERSITÄT DARMSTADT Naive Bayes for Ranking
Übersicht zu Verfahren des Soft Computing
Genetische Algorithmen für die Variogrammanpassung
Einführung Übersicht Einsatz der Zielwertsuche Einsatz des Solvers
Anwendung und Visual Basic
Minimieren ohne Ableitungen
Sortierverfahren Richard Göbel.
Sortierverfahren Richard Göbel.
Computerkurs: Quantitative Auswertung biochemischer Experimente Guten Morgen.
Nicht-Lineare Regression
Computerkurs: Quantitative Auswertung biochemischer Experimente Guten Morgen.
Computerkurs: Quantitative Auswertung biochemischer Experimente Tag 8 Einführung in die numerische Integration Aufgabe 18: Simulation einer Assoziationskinetik.
Pattern sensitivity Campbell & Robson (1968).
Erkennung von Gesichtsausdrücken anhand von Bildbewegungen (Irfan Essa & Alex Pentland) Hauptseminar Smart Environments Joachim Biggel
Projekt A4: Alignment of Situation Models Gert Rickheit Sven Wachsmuth Constanze Vorwerg Agnes Swadzba SFB-Kolloqium,
Herzlich willkommen beim 1. Workshop der AG Methodik
Inhalt Einführung Problemstellung / Ziele Definitionen
Uebung 01 ANN mit MATLAB.
erstellt von Petra Bader
Tutorium
Neuronale Netzwerke am Beispiel eines MLP
Generalisierte additive Modelle
Maschinelles Lernen und automatische Textklassifikation
Betrügern auf der Spur WIN-Treffen 2010 Falko Meyer 04 BW.
Variationsformalismus für das freie Teilchen
Christian Schulz, Marc Thielbeer, Sebastian Boldt
Self Organizing Tree Algorithm
Ausgleichungsrechnung II
Abschlussvortrag zur Studienarbeit
Überblick Statistik Deskriptive Statistik=beschreibende Statistik
Adaptive Systeme Prof. Rüdiger Brause WS 2013.
Adaptive Systeme-2 Grundlagen
Einführung in die Informatik für Naturwissenschaftler und Ingenieure
Einführung in die Programmierung Wintersemester 2013/14 Prof. Dr. Günter Rudolph Lehrstuhl für Algorithm Engineering Fakultät für Informatik TU Dortmund.
Geometrie : Rekonstruktion



Statistik: Mehr zur Regression.
Data Mining Cup 2012 Wissensextraktion – Multimedia Engineering
Kapitel 18 Dynamische Modelle: Schätzen der Parameter
Regression und Kollokation
Einführung in Datenbankmodellierung und SQL
Strategie der Modellbildung
Multivariate Statistische Verfahren
Radiale Basis-funktionen
Multivariate Statistische Verfahren
Langzeitaufgaben. Merkmale Die Aufgabenstellung enthält bewusst Begriffe aus der Alltagssprache in ihrer eher diffusen Bedeutung (optimal, sinnvoll, effektiv),
Integration oberflächenbestimmender Objekte ins DGM Seminar GIS IV SS
Nichtlineare Fisher-Diskriminanzanalyse
Lernmodelle und Experimentelle Untersuchungen
Möglichkeiten der Visualisierung
setzt Linearität des Zusammenhangs voraus
Implementierung von Relevance-Feedback-Methoden in einer Bilddatenbank
SS 2009Maschinelles Lernen und Neural Computation 133 Kapitel 7: Ensemble Methoden.
Projekt A4: „Alignment of Situation Models“ Dr. Gerd Rickheit Dr. Sven Wachsmuth Dr. Constanze Vorwerg Agnes Swadzba SFB-Kolloqium,
Institut für Informationssysteme Technische Universität Braunschweig Institut für Informationssysteme Technische Universität Braunschweig Verdrängung von.
EIN NEUES ENSEMBLE- KLASSIFIKATIONSVERFAHREN Tim Schneider Rotation Forest.
PCA Principal Component Analysis. Gliederung PCA – Warum eigentlich? PCA – Was ist zu tun? Was passiert eigentlich? Anwendungen Zusammenfassung.
Spärliche Kodierung von Videos natürlicher Szenen Vortragender: Christian Fischer.
TU Darmstadt FB 20 Informatik Bayes Decision Theory von Martin Tschirsich, Shuo Yang & Zijad Maxuti Hausübung 5: Erläuterung Anwendung.
Schnaps oder Fusel – Auslegung thermischer Trennapparate anhand realistischer Stoffdaten aus dem Thermodynamikpaket Props Elena Aulich Januar 2011.
Prognose von Zeitreihen Hans Nübel Hans Nübel Prognose von Zeitreihen Aufbau 1.Motivation 2.Holt-Winters-Verfahren 3.Prognose.
Aufgabenstellung  gegeben ist die zeitliche Entwicklung der global gemittelten bodennahen Temperatur im Zeitraum (Dateiname= ytemp2m.obs, ascii-
Independent Component Analysis: Analyse natürlicher Bilder Friedrich Rau.
 Präsentation transkript:

Vergleich von Lernverfahren für Netzstrukturen mit radialen Basisfunktionen

Klassifikation und Regression mittels neuronaler Netze Aufgabenstellung Klassifikation und Regression mittels neuronaler Netze Vergleich verschiedener Verfahren RBF-Netz SVM (Support Vector Machines) LOLIMOT Implementieren eines RBF-Netzes LIBSVM-Interface programmieren Entwicklung einer Matlab-GUI Auswertung der Resultate

Klopferkennung am Ottomotor Klopfen am Ottomotor Tritt im Zylinder auf (Druckschwankungen) Entsteht bei hohen Drücken und Temperaturen Langfristig treten durch das Klopfen mechanische Schäden auf Die Motorsteuerung kann entsprechende Gegenmaßnahmen einleiten Klopfdaten: Körperschallmerkmale im Zeitbereich Abgeleitete Merkmale im Frequenzbereich

Schätzung des Stickoxidgehalts NOx-Emission in Motorabgasen Stickoxide unerwünscht (Abgasverordnung) Maßnahmen zur NOx-Verminderung Optimierung des Verbrennungsprozesses Messwerte des NOx-Gehalts notwendig Lösung durch Berechnung des NOx-Werts mittels neuronaler Netze Vorhersage des NOx-Gehaltes mittels: Motordrehzahl Luftmassenstrom Drosselklappenstellung

GUI Vergleich der Netze - unterschiedliche Lernalgorithmen - gleiche Netzstrukturen GUI - ähnliche Lernalgorithmen - unterschiedliche Netzstrukturen - unterschiedliche Lernalgorithmen - unterschiedliche Netzstrukturen

Radiale Basisfunktionen 3 Freie Parameter Gewichtung  Position c Sigma  N-dimensional Netz: Summe vieler Gaußglocken ,c + x1 x2 

Orthogonal Least Squares Berechnung in zwei Schleifen Innere Schleife: Fehlerberechnung für verfeinerte Modelle (Strukturoptimierung) Problem: Gewichte sind voneinander abhängig! Lösung: orthogonalisieren (Transformation) Neue Gewichte sind voneinander unabhängig Fehlerberechnung mit neuen Gewichten möglich Äußere Schleife: Rücktransformation Abbruchkriterien

Separation von Daten in Klassen Optimale Separation durch SVM-Klassifikation Separation von Daten in Klassen Berechnung trennender Hyperebenen Optimale Separation durch Maximierung des Spaltabstands zu beiden Klassen Vektoren auf dem Spalt sind Stützpunkte der Ebene Support-Vektoren x1 max x2

Mathematisches Vorgehen SVM-Regression Unterschiede zu anderen Verfahren Insensitivität (g) Toleranz von Abweichungen (>) Mathematisches Vorgehen Abbildung in hochdimensionalen Raum Dort linear lösbar >i +g -g >*i

Bietet Kommandozeilentools für LIBSVM-Interface LIBSVM ist Open Source Bietet Kommandozeilentools für Skalierung Training Ein-Schritt-Vorhersage Motivation für das Interface C-Code ist in Matlab nicht direkt verwendbar Verwendung auf der Kommandozeile umständlich Gewinn durch das Interface Algorithmen jetzt in Matlab verfügbar Simulation und graphische Darstellung möglich Einfachere Bedienung

LIBSVM-Interface

Kreuzvalidierung Eine Verfeinerung der Modelle führt ab einem gewissen Punkt zu Überanpassung Das Minimum lässt sich nicht vorhersagen, sondern muss per Kreuzvalidierung ermittelt werden Suche nach Minima des Validierungsfehlers in Abhängigkeit von freien Parametern

Fehler so früh wie möglich erkennen und darauf hinweisen GUI Aufgaben der GUI Kreuzvalidierung Daten laden Parameter einstellen Fehler so früh wie möglich erkennen und darauf hinweisen Ausgabe der berechneten Ergebnisse Visualisierung der Ergebnisse

GUI

Klassifikation Regression Berechnungen Variation der Datensätze Verschiedene Zylinder Verschiedene Messreihen Variation der Merkmale Zeitbereichsmerkmale Frequenzbereichsmerkmale Kombination Regression Training mit Ein-Schritt-Prädiktion Anschließende Überprüfung mit einer Simulation

Erfolg schwach abhängig von der Wahl des Verfahrens Ergebnisse Erfolg schwach abhängig von der Wahl des Verfahrens Jedoch stark abhängig von der Wahl der Daten Klassifikationsfehler in %

Regression

Zusammenfassung und Ausblick Problemstellung mit gegebenen Verfahren gut lösbar Daten wichtiger als Verfahren (Messstrategien) Rechenzeit abhängig vom Verfahren Toolbox erfolgreich entwickelt Überprüfung der Praxistauglichkeit Ausbau der Toolbox möglich Weitere Anwendungen der Toolbox sinnvoll

Noch Fragen?