ISWeb - Information Systems & Semantic Web Marcin Grzegorzek Anwendung DFT zur Feature-Aufbereitung Ziel: Minimalität der Feature-Werte.

Präsentation zum Thema: "ISWeb - Information Systems & Semantic Web Marcin Grzegorzek Anwendung DFT zur Feature-Aufbereitung Ziel: Minimalität der Feature-Werte."—  Präsentation transkript:

1 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de1 Anwendung DFT zur Feature-Aufbereitung Ziel: Minimalität der Feature-Werte Ausnutzung Kompaktheit im Frequenzbereich Kompaktheit: Funktion häufig durch wenige, niedrige Frequenzkoeffizienten approximierbar, da hohe Frequenzen oft gegen Null streben hohe Kompaktheit bei glattem Funktionsverlauf

2 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de2 Fehler erzeugt durch Frequenzfilter im Ortsbereich nicht lokalisierbar Orthogonalität: Fourier-Koeffizienten sind orthogonal ermöglicht isolierte Manipulation einzelner Frequenzen Anwendung DFT zur Feature-Aufbereitung (2)

3 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de3 Beispiel Minimierung durch Ausnutzung Kompaktheit Ausgangsfunktion:

4 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de4 Beispiel Minimierung durch Ausnutzung Kompaktheit (2) Frequenzspektrum und Abschneiden hoher Frequenzen: Tiefpassfilter

5 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de5 Beispiel Minimierung durch Ausnutzung Kompaktheit (3) approximierte, d.h. minimierte Funktion:

6 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de6 Berechnung der DFT Erinnerung lineare Algebra und komplexe Zahlen diskrete Funktion als Vektor des komplexen Vektorraums: (Vektorraum hat kanonische Basisvektoren) Konjugation einer komplexen Zahl:

7 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de7 inneres Produkt für Entwicklungsformel für Orthonormalbasis Berechnung der DFT (2)

8 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de8 Beispiel Funktion im Vektorraum (1,0) (2,0) (-2,0) (1,0) * * * *

9 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de9 Vergleiche Vektorräume C 4 und (1,0) (2,0) (-2,0) (1,0) * * * *

10 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de10 Orthogonale Vektoren in C 4 (1,0) (0,0) (2,0) (0,0) (-2,0) (0,0) (1,0) (0,0) (-2,0) (0,0) (1,0) =(0,0) * (0,0)+ (0,0) * (0,0) + (-2,0) * (0,0)+ (0,0) * (1,0) = (0,0) Inneres Produkt Erinnerung (a,b) = (a,-b)

11 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de11 Vektorräume über Diskreten Funktionen Mit OrtsvariablenMit Frequenzvariablen

12 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de12 Vektorräume über Funktionen Mit OrtsvariablenMit Frequenzvariablen

13 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de13 Vektorräume über Funktionen Mit OrtsvariablenMit Frequenzvariablen

14 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de14 Problemstellung für DFT Gegeben: Gesucht: X1X2X3X4X1X2X3X4 j1j2j3j4j1j2j3j4

15 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de15 Problemstellung für Fouriersynthese Gegeben: Gesucht: j1j2j3j4j1j2j3j4 X1X2X3X4X1X2X3X4

16 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de16 Fourier-Basis Basisvektoren:

17 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de17 Orthonormalität: Fourier-Basis (2)

18 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de18 Fourier-Transformation aufgrund Orthonormalität der Fourier-Basis Berechnung der Fourier-Koeffizienten mittels innerem Produkt: Transformation als einfache Multiplikation mit DFT- Matrix Ortj-ter Einheitsvektor der Fourierbasis Cosinus / Sinus-Anteil für die j-te Schwingungsfrequenz

19 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de19 Transformation entspricht Rotation im komplexen, hochdimensionalen Raum Ergebnis: komplexe Fourier-Koeffizienten Realteil für Kosinusamplituden Imaginärteil für Sinusamplituden Fourier-Transformation (2)

20 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de20 Transformationsformel DFT Allgemein: F = A x f, Mit a j+1,k+1 = e j (k)

21 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de21 Rücktransformation DFT -1 Allgemein: A * F = A * A x f = I x f = f, Mit: A* ist adjungierte Matrix

22 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de22 Polarkoordinaten komplexe Zahl als Polarkoordinate mit Länge und Winkel Winkel (Phase): Länge: Winkel drückt Verschiebung aus (Sinus versus Kosinus) Frequenzspektrum berücksichtigt nur Länge

23 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de23 Eigenschaften der DFT Parseval-Theorem: euklidsche Distanzen sind im Orts- und Frequenzbereich gleich Translation im Ortsbereich ändert ausschließlich Phasenwinkel

24 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de24 Symmetrie der Fourier-Koeffizienten: Werte sind spiegelsymmetrisch n reelle Zahlen reichen zur Darstellung von Nyquist-Theorem (Abtasttheorem): zur Abbildung bestimmter Frequenzen sind min. doppelt so viele Abtastwerte erforderlich Symmetrie Eigenschaften der DFT (2)

25 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de25 Eigenschaften der DFT (3) Kompaktheit abhängig von Glattheit der Funktion im Ortsbereich Klassifikation von Funktionen anhand Verlauf der quadrierten Fourier-Beträge in O-Notation:

26 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de26 Eigenschaften der DFT (4) Kompaktheit weißes Rauschen: geringste Kompaktheit schwarzes Rauschen: sehr glatt, etwa Flusspegelstände braunes Rauschen: etwa Verlauf von Aktienkursen

27 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de27 abrupte Funktionswertsprünge verursachen geringe Kompaktheit extreme Sprünge häufig aufgrund fehlender Periodizität an den Rändern Vermeidung Randeffekt: Spiegelung der Funktion Kosinustransformation DCT (keine Imaginärteile) Eigenschaften der DFT (5)

28 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de28 Diskrete Kosinustransformation Hintransformation: Rücktransformation:

29 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de29 FFT und mehrdimensionale Transformation FFT: schneller Transformationsalgorithmus mit statt zweidimensionale DFT durch einfache Multiplikation der Basisvektoren erreichbar

30 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de30 5.2 Diskrete Wavelet-Transformation hier Fokus auf Haar-Wavelets (nach Alfred Haar) als einfachstes Wavelet Wavelet steht für Wellchen, also lokal begrenzte Welle vielfältiger Einsatz etwa in Signal- und Bildverarbeitung (etwa JPEG2000)

31 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de31 Probleme mit der Fourier-Transformation lokal versus globale Änderung: lokale Änderung im Ortsbereich globale Änderung im Frequenzbereich und umgekehrt Problem: etwa temporäre Störgeräusche aus Audio-Signal entfernen

32 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de32 Probleme mit der Fourier-Transformation (2) Ort und Frequenz als Feature-Wert: beides nicht gemeinsam in einer Darstellung verfügbar Problem etwa bei Erkennung lokal begrenzter Texturen

33 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de33 Idee der Wavelet-Transformation gemeinsame Darstellung von Frequenz und Ort Ansatz für Fourier-Transformation: Window-Fourier-Transformation Zerlegung des Ausgangssignals in disjunkte Intervalle (Fenster) konstanter Breite Fourier-Transformation isoliert auf einzelnen Intervallen Problem: statische Intervallbreite

34 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de34 Wavelet-Transformation: Frequenzen bei unterschiedlicher Ortsauflösung Multi-Resolution-Analyse Einschränkung der Frequenzen durch Nyquist-Abtasttheorem je größer Ortsauflösung, desto geringer Frequenzauflösung und umgekehrt Idee der Wavelet-Transformation (2)

35 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de35 Graphische Darstellung DFT, WDFT, DWT Ausgangssignal:

36 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de36 Wavelet-Basisfunktionen Support (Funktionswert ungleich Null) lokal begrenzen Wellchen Generierung von Basisfunktionen aus Mutter-Wavelet durch Verschiebung und Skalierung Existenz diverser Mutter-Wavelets (hier nur Haar-Mutter- Wavelet)

37 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de37 Haar-Wavelet-Transformation Funktionsprinzip (stark vereinfacht): Ausgangspunkt: diskrete Funktion mit Funktionswerten schrittweises und iteriertes Berechnen der Summen (Skalierungswerte) und Differenzen (Detailkoeffizienten)

38 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de38 Abbildung der Ausgangsfunktion auf Detailkoeffizienten und einen Skalierungswert (Gesamtsumme) Ausgangsfunktion kann verlustfrei rekonstruiert werden Haar-Wavelet-Transformation

39 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de39 Beispiel Ausgangsfunktion: [9 7 3 5 1 1 1 5] Ergebnis: [32 16 8 -4 2 -2 0 -4]

40 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de40 Support der einzelnen Wavelet-Basisfunktionen

41 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de41 Anwendung der DWT für Feature-Normalisierung Störfrequenzen lassen sich lokal begrenzt entfernen Mutter-Wavelet kann an Störsignal angepasst werden aufwändige Analyse erforderlich Beispiel: Entfernen von Knackgeräuschen aus Audio-Signale

42 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de42 Anwendung DWT für Feature-Erkennung/Aufbereitung Anwendung für lokale Frequenzanalyse, etwa für Textur-Feature

43 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de43 Anwendung DWT für Feature-Erkennung/Aufbereitung (2) Invarianzen können an Orts- und Frequenzinformationen geknüpft sein Verschiebungsinvarianz durch unsortierte Koeffizienten Invarianz bzgl. Skalierung (Verdopplung/-Halbierung der Ortsauflösung) durch Nichtbeachtung der Auflösungsstufen

44 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de44 Haar-Wavelet: geringe Berechnungs-komplexität: Kompaktheit und Orthogonalität der Koeffizienten lokale Beschränkung bei Modifikation der Wavelet-Koeffizienten Anwendung DWT für Feature-Erkennung/Aufbereitung (3)

45 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de45 Anwendung zur verlustbehafteten Komprimierung

46 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de46 Berechnung der DWT Ausgangspunkt: diskrete Funktion Berechnung der Detailkoeffizienten und Skalierungswerte in verschiedenen Auflösungsstufen j = 1, 2, 4, 8, 16, 32,.. orthonormale Basisvektoren: und

47 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de47 Skalierungsbasisvektoren i-ter Skalierungsbasisvektor der Auflösungsstufe j des Vektorraums :

48 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de48 es gelten: Skalierungsbasisvektoren (2)

49 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de49 Skalierungsbasisvektoren graphisch Skalierungsvektoren der Stufe j=2

50 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de50 Detailbasisvektoren i-ter Detailbasisvektor der Auflösungsstufe j des Vektorraums :

51 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de51 es gelten: Detailbasisvektoren (2)

52 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de52 Detailbasisvektoren graphisch Detailvektoren der Stufe j=2

53 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de53 Skalierungs- und Detailbasisvektoren Detail- und Skalierungsbasisvektoren der selben Auflösung sind orthogonal bilden gemeinsam othonormale Basis für Vektorraum

54 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de54 Berechnung der Skalierungs- und Detailkoeffizienten Grundidee: Anwendung inneres Produkt der Vektoren der Orthonormalbasis der Stufe j auf

55 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de55 Skalierungs- und Detailkoeffizienten Berechnung auf erzeugt Skalierungskoeffizienten drücken Frequenzen innerhalb entsprechender Supportintervalle aus erzeugt Detailkoeffizienten drückt die Funktion ohne Frequenzen innerhalb entspechender Supportintervalle aus

56 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de56 erneute Berechnung auf Funktion der Detailkoeffizienten nächste Auflösungsstufe Stopp, wenn Auflösungsstufe und Werte gleich sind Skalierungs- und Detailkoeffizienten

57 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de57 Zerlegung in Wavelet-Koeffizienten Wavelet-Koeffizienten einer Funktion sind mit

58 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de58 Zerlegung in Wavelet-Koeffizienten graphisch

59 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de59 Wavelet-Transformation als Matrizenmultiplikation Funktionen und als Vektoren aus ist eine -Matrix, deren Zeilen den Wavelet-Basisvektoren entsprechen auf Grund (Orthonormalmatrix) gilt quadratischer Berechnungsaufwand

60 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de60 Transformationsalgorithmus mit linearem Aufwand

61 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de61 Rücktransformation mit linearem Aufwand

62 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de62 Zweidimensionale DWT wichtig etwa für Rasterbilder 2 Varianten Standardzerlegung: Transformation in Dimension 1 komplett, bevor Transformation in Dimension 2 Non-Standardzerlegung: Transformation alternierend pro Auflösungsstufe analoges Verfahren für beliebig viele Dimensionen anwendbar

63 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de63 Algorithmus zur Standardzerlegung

64 ISWeb - Information Systems & Semantic Web Marcin Grzegorzek marcin@uni-koblenz.de64 Algorithmus zur Non-Standardzerlegung