10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,

Präsentation zum Thema: "10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten,"—  Präsentation transkript:

1 10.3.2004IT meets science1 Lernende Software Priv.Doz. Dr. Barbara Hammer, Forschernachwuchsgruppe Lernen mit Neuronalen Methoden auf Strukturierten Daten, Universität Osnabrück

2 10.3.2004IT meets science2 Lernende Software Wozu? Wie? Wer?

3 10.3.2004IT meets science3 Wozu …

4 10.3.2004IT meets science4 Lernende Software – wozu? Das e-mail Programm lernt anhand von Beispielen, persönlich wichtige e-mails von spam zu unterscheiden.

5 10.3.2004IT meets science5 Lernende Software – wozu? Eine komplexe industrielle Anlage An dieser Stelle könnte eine sensorgesteuerte Qualitätsüberwachung stehen, die automatisch Fehlfabrikationen erkennt.

6 10.3.2004IT meets science6 Lernende Software – wozu? Der Zeitungskiosk um die Ecke Helfen könnte eine Prognose des zu erwartenden Abverkaufs.

7 10.3.2004IT meets science7 Lernende Software – wozu? Ein Kreditinstitut Eine automatische Analyse der Kreditwürdigkeit des Kunden hätte das verhindert.

8 10.3.2004IT meets science8 Lernende Software – wozu? Lernen bei zu automatisierenden Problemen die nicht exakt modelliert werden können die evtl. sogar regelmäßig nachgebessert werden müssen für die Beispieldaten vorhanden sind

9 10.3.2004IT meets science9 Wie …

10 10.3.2004IT meets science10 … abstrakt

11 10.3.2004IT meets science11 Lernende Software – wie? Eingabe Informationsverarbeitung im Gehirn auf der Basis von Erfahrungswissen Ausgabe

12 10.3.2004IT meets science12 Lernende Software – wie? Eingabe Ein künstliches Neuronales Netz Ausgabe

13 10.3.2004IT meets science13 Lernende Software – wie? Ein künstliches Neuronales Netz Eingabe Ausgabe Betriebsmodus:... ein Stück Software, das zu einer gegebenen Eingabe die gewünschte Ausgabe liefert... durch das Zusammenspiel einfacher Basiselemente, der künstlichen Neuronen, kann ein komplexer nichtlinearer Zusammenhang realisiert werden

14 10.3.2004IT meets science14 Lernende Software – wie? Ein künstliches Neuronales Netz Eingabe Ausgabe Lernmodus:... die Basiselemente und deren Zusammenspiel werden nicht programmiert, sondern gelernt... automatische Lernprogramme können die Parameter des Netz´ so einstellen, daß es auf gegebenen Beispieldaten ein korrektes Verhalten zeigt

15 10.3.2004IT meets science15 Lernende Software – wie? Ein künstliches Neuronales Netz Eingabe Ausgabe Lernmodus - Testbetrieb:... um sicher zu gehen, daß das Netz korrekt funktioniert, testet man das Verhalten auf repräsentativen Beispieldaten, die nicht zum Training verwandt wurden... der Testfehler schätzt die Anzahl der Fehler im laufenden Betrieb

16 10.3.2004IT meets science16 … ein Beispiel

17 10.3.2004IT meets science17 Lernende Software – wie? spam oder nicht spam Vorverarbeitunge-mail Betriebsmodus: Lernmodus: Beispiele von spam und nicht-spam mails Lernprogramm

18 10.3.2004IT meets science18 Lernende Software – wie? spam oder nicht spam Vorverarbeitunge-mail Testbetrieb: Beispiele von spam und nicht-spam mails ???

19 10.3.2004IT meets science19 … Klassifikation von Spektraldaten thanks: Dr. Thomas Villmann

20 10.3.2004IT meets science20 Lernende Software – wie? Klassifikation von Spektraldaten Klassifikation der Vegetationsform in: Pinien Fichten Mischwald Wasser Grasland Alpin Trockenboden...

21 10.3.2004IT meets science21 Lernende Software – wie? LANDSAT TM Satelliten-basierte Sensoren liefern Charaketeristika für 6 relevante Spektralbereiche mit einer Auflösung von 30x30m 2 Wasser Vegetation Boden

22 10.3.2004IT meets science22 Lernende Software – wie? LANDSAT TM Daten für eine Gegend von Colorado, 1907x1784 Pixel

23 10.3.2004IT meets science23 Lernende Software – wie? 6-dim Spektraldaten eines Pixels Vegetationsform trainiert für 5% der Fläche Fehler im Testbetrieb für die gesamte Fläche: < 9%

24 10.3.2004IT meets science24 Lernende Software – wie?

25 10.3.2004IT meets science25 … Prognose des Regenabfluß thanks: Dipl.Systemwiss. Marc Strickert Prof. Dr. Holger Lange

26 10.3.2004IT meets science26 Lernende Software – wie? Großlysimeter St.Arnold 20x20m 2 3.5m

27 10.3.2004IT meets science27 Lernende Software – wie? Aufgabe: prognostiziere aus den letzten k Werten den Regenabfluß für den nächsten Tag ?

28 10.3.2004IT meets science28 Lernende Software – wie? Ergebnis: 82% richtige Klassifikation auf der Trainingsmenge 70% richtige Klassifikation auf der Testmenge

29 10.3.2004IT meets science29 Lernende Software – wie? Langzeitprognose

30 10.3.2004IT meets science30 … Fehlererkennung bei Kolbenmaschinen thanks: Dipl.Systemwiss. Thorsten Bojer Prognost Systems GmbH

31 10.3.2004IT meets science31 Lernende Software – wie? Online-Fehlererkennung bei Kolbenmaschinen

32 10.3.2004IT meets science32 Lernende Software – wie? Fehlerdetektion aufgrund von Sensorsignalen zeitabhängige Signale: Druck, Schwingungen Prozeß- Characteristiken Merkmale des pV Diagramms … Sensoren

33 10.3.2004IT meets science33 Lernende Software – wie? Daten je nach Maschinenbestückung ca. 30 Zeitreihen mit je 36 Einträgen, je 6 Werte ca. 20 Auswertungen pro Zeitintervall ca. 40 globale Merkmale ca. 15 Klassen, wenige (~100) Trainingsmuster MaschineKlassifikationsgüte des neuronalen Netz` 1, train test 98.2 (96.3-100) 97.2 (93.5-100) 2, train test 99.1 (98.4-100) 97.7 (97.6-100)

34 10.3.2004IT meets science34 … abstrakt

35 10.3.2004IT meets science35 Lernende Software – wie? Bereitstellen von Beispieldaten Vorverarbeitung der Daten Training eines Netzes Testbetrieb ein fertiges neuronales Netz zur Modellierung des Zusammenhangs Eingabe/Ausgabe eine Umgebung, die das automatische Training eines geeigneten Netz´ ermöglicht

36 10.3.2004IT meets science36 Wer …

37 10.3.2004IT meets science37 Lernende Software – wer? Trainingsprogramme für Neuronale Netze gibt es frei verfügbar (Hochschulentwicklungen), in Lizenzsoftware integriert (z.B. Mathematica, Matlab,...) oder als eigen- ständige käuflich erwerbliche Tools (z.B. von Siemens). Es gibt viele verschiedene Modelle Neuronaler Netze für verschiedenste Aufgaben. Das Training Neuronaler Netze erfordert Kenntnisse über das prinzipielle Vorgehen, in der Regel sind spezielle Adaptationen nötig. Der Betrieb eines fertig trainierten Netz´ erfordert keine Vorkenntnisse und ist in beliebige Programme integrierbar.

38 10.3.2004IT meets science38 Lernende Software – wer? Bereitstellen von Beispieldaten Vorverarbeitung der Daten Training eines Netzes Testbetrieb ein fertiges neuronales Netz zur Modellierung des Zusammenhangs Eingabe/Ausgabe eine Umgebung, die das automatische Training eines geeigneten Netz´ ermöglicht... IT... IT/science... science Ein Programm in beliebiger Programmiersprache, das unabhängig benutzt werden kann Erfordert in der Regel eine speziell entwickelte Umgebung und ein paar Kenntnisse in der Anwendung.

39 10.3.2004IT meets science39 Lernende Software – wer? Neuronale Netze sind ein ideales Gebiet für IT-Science Kooperationen im Rahmen von Diplom- und Masterarbeiten Praktika Projekten Auftragsarbeiten

40 10.3.2004IT meets science40 Lernende Software – wer? Universität Osnabrück – Mathematik/Informatik Forschernachwuchsgruppe LNM – B.Hammer, K.Gersmann, M.Strickert http://www.informatik.uni-osnabrueck.de/lnm hammer@informatik.uni-osnabrueck.de Gruppe Neuroinformatik – Prof.M.Riedmiller http://www.informatik.uni-osnabrueck.de/asg