Datenverwaltung Agenda für heute, 16. April 2008 Datenmodellierung

Präsentation zum Thema: "Datenverwaltung Agenda für heute, 16. April 2008 Datenmodellierung"—  Präsentation transkript:

1 Datenverwaltung Agenda für heute, 16. April 2008 Datenmodellierung
Pause Datenbankentwurf Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

2 Elemente der Datenverwaltung
Speicherkapazität + Rechenleistung Leute Information Daten Computer Programme Daten-verwaltung Verarbeitung + Speicherung Algorithmen + Datenstrukturen 2/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

3 Datenverwaltung: Form follows Function
Verarbeitung stellt Anforderungen an Speicherung für: Unterstützung bei: - Einfügen, - Löschen, - Suchen, - Selektieren von Daten Art der Speicherung grenzt Verarbeitung ein durch: Einschränkung von: - Grösse - Flexibilität - Kompatibilität 3/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

4 Datenverwaltung braucht ein universelles Speichermedium
Tabellen: die praktischste Datenstruktur um den Speicher zu organisieren. Mit Tabellen lassen sich Einschränkungen der Speicherung leicht beheben. Grösse: Tabellen lassen sich leicht aufteilen oder zusammenfügen, das Resultat sind wieder Tabellen Flexibilität: Sowohl die Anzahl Spalten als auch die Anzahl Zeilen sind frei wählbar Kompatibilität: Tabellen lassen sich einfach zwischen Anwendungen austauschen. 4/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

5 Die Tabelle als universelles Speichermedium
Nährwerte Schokoladencornet Nährstoff Wert Einheit Energie 1'230 kJ Wasser 40.50 g Protein 4.70 Fett, total 13.40 Fettsäuren, gesättigt 7.00 Cholesterin 27.00 mg löschen suchen einfügen selektieren ([Spalte, Zeile]) 5/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

6 Die Tabelle als flexibles Speichermedium
Die Tabelle kann man so erweitern: Nährwerte Schokoladenprodukte Nährstoff Cornet Pudding Schokolade Einheit Energie 1'230 498 2'258 kJ Wasser 40.50 71.20 1.30 g Protein 4.70 3.00 7.50 Fett, total 13.40 2.60 32.90 Fettsäuren, gesättigt 7.00 0.40 19.10 Cholesterin 27.00 20.00 mg 6/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

7 Die Tabelle als flexibles Speichermedium
. . . oder so: Nährwerte Schokoladenprodukte Produkt Energie Wasser Protein Fett, total Fettsäuren, gesättigt Cholesterin Cornet 1'230.0 40.5 4.7 13.4 7.0 27.0 Pudding 498.0 71.2 1.3 2.6 0.4 3.0 Schokolade 2'258.0 7.5 32.9 19.1 20.0 Einheit kJ g mg Nehmen wir an, wir möchten nun den Zuckergehalt von Schokoladen-Rahmglace speichern. 7/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

8 Probleme mit der Tabelle als flexibles Speichermedium
. . . dann gibt es "Löcher" in der Tabelle: Nährwerte Schokoladenprodukte Produkt Energie Wasser Protein Zucker Fett, total Fettsäuren, gesättigt Cholesterin Cornet 1'230.0 40.5 4.7 13.4 7.0 27.0 Pudding 498.0 71.2 1.3 2.6 0.4 3.0 Rahmglace 24.6 Schokolade 2'258.0 7.5 32.9 19.1 20.0 Einheit kJ g mg Dies lässt sich mit "Listen" vermeiden. 8/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

9 Vereinfachung der Struktur durch linearisieren der Einträge
Nährwerte Schokoladenprodukte Produkt Nährstoff Wert Einheit Cornet Energie 1'230 kJ Wasser 40.50 g Protein 4.70 Fett, total 13.40 Fettsäuren, gesättigt 7.00 Cholesterin 27.00 mg Pudding 498 71.20 3.00 2.60 0.40 Rahmglace Zucker 24.6 Redundanz Vorteil Einfache Speicherung Einfache Verarbeitung Nachteil Gross Unübersichtlich 9/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

10 Die Nachteile einfacher Listen lassen sich beheben
Übersichtlichkeit wieder gewinnen Listeneinträge selektieren Zusammenfassungen berechnen Daten reformatieren: Pivot-Tabellen Voraussetzung: Die Daten sind als Liste organisiert. Redundanz eliminieren Tabelle entlang Spaltengrenzen aufteilen Wiederholungen in Teiltabellen entfernen Einträge in Teiltabellen indizieren Über Indizes Verbindung zu abgetrennten Teilen herstellen 10/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

11 Daten thematisch in verschiedene Tabellen aufteilen
Die Einträge der neuen Tabellen über Querverweise verbinden 11/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

12 Konsequenzen für die Datenverwaltung
Damit Daten für ihre Verarbeitung zweckmässig gespeichert werden können, müssen deren Eigenschaften erkannt, und vereinfacht dargestellt werden. So wie die Naturwissenschaften komplexe Zusammenhänge mit Modellen vereinfacht und sichtbar macht, verwendet die Informatik Datenmodelle um Merkmale von Daten und deren Beziehungen zueinander zu erfassen. 12/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

13 Datenmodellierung Datenverwaltung Pause Datenbankentwurf
Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

14 Hilfsmittel für die Modellierung von Daten
Eine Beschreibung der Verarbeitung und Speicherung der Daten muss für Leute verständlich sein, sich aber auch für die Programmierung eignen! Methode Unterstützt Mind mapping Gedanken assoziativ spontan darstellen Concept Maps Wissen kontextabhängig organisieren und darstellen Entity-Relationship Modell Datenbankgerechte Darstellung von Objekten, deren Merkmale und Beziehungen zueinander 13/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

15 Merkmale um den Begriff "Lebensmittel" zu beschreiben
Mind mapping Merkmale um den Begriff "Lebensmittel" zu beschreiben 14/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

16 Concept maps 15/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

17 Entity-Relationship-Diagramm (Chen Notation)
Beziehungstyp (Kardinalität) Name Nährstoff Name Typ m m Nahrungsmittel Analyse Nährstoffe Nährstoffe Wert Methode Masseinheit Entitätsmenge Entitätsmenge Beziehung (Relationship) Merkmal (Attribut) 16/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

18 Anwendung des E-R-Modells: Tabellen für Entitätsmengen
Nährwerte Name Aprikose Kochbutter Paranuss CH-Code Z.2 Protein 0.8 0.5 13 Masseinheit g Wasser 86.79 16.6 5.929 Kalium 315 20 680 mg Kohlehydrate 12.1 0.7 11.8 Vitamin E 1.75 7 Attribut Attributname Entität 17/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

19 Vereinfachung: Entflechten von Information
Nahrungsmittel Name Aprikose Bürli CH-Code Z.2 Nährstoff_id 180 84 57 Menge 86.79 12.1 0.4 39.632 48.802 2.032 Verbindende Indizes Nährstoffe Nährstoff_id 57 84 180 178 Name_d Eisen Kohlehydrate Wasser Vitamin K Name_f Fer Hydrate de carbon Eau Vitamine K Name_i Ferro Carboidrati Acqua Vitamina K Masseinheit mg g Primärschlüssel Fremdschlüssel 18/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

20 Tabellen für Beziehungen (Relationships)
Nahrungsmittel NMittel_id Name_d Aprikose Bürli Name_f Abricot Name_i Albicocca CH-Code Z.2 Analyse Analyse_id 1 2 NMittel_id Nährstoff_id 180 84 Quelle CIQUAL Inst. f. LMW Menge 86.79 48.802 Methode unbekannt Summenwert Person M. Racher S. Jacob 1 m m Nährstoffe Nährstoff_id 180 84 57 178 Name_d Wasser Kohlehydrat Eisen Vitamin K Name_f Eau Hydrate de carbon Fer Vitamine K Name_i Acqua Carboidrati Ferro Vitamina K Masseinheit g mg 1 19/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

21 Zusammenfassung 20/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

22 Datenbankentwurf Datenverwaltung Datenmodellierung Pause
Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

23 Entity-Relationship-Modell
Modelle vs. Schemata Modellierung der Daten aus der realen Welt Entity-Relationship-Modell Konzeptionelles Schema Relationales Datenmodell Modellierung der Daten im Rechner 21/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

24 Grundlagen für den Datenbankentwurf
Selektive Abfrage Basisdaten Datenbank Konzeptionelles Schema Logische Gesamtstruktur Eigenschaften der Daten Beziehungen unter den Daten Datenmodell Internes Schema Externes Schema Datenstrukturen Datentypen Zugriffsmechanismen Anwendungsspezifische Sicht auf die Daten 22/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

25 Das Verbreitetste: Das Relationenmodell
Tabellen in denen Einträge (Tupel) eingefügt, gelöscht oder geändert werden können (Mutationen) Verteilen von Daten auf mehrere Tabellen (Normalisieren) reduziert Redundanz, d.h. die wiederholte Speicherung gleicher Werte Verknüpfen von Daten aus den individuellen Tabellen mit relationalen Operatoren stellt die ursprüngliche Information wieder her 23/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

26 Elemente einer Relation
Attributname Attribut Nährwerte Name CH-Code Wasser Masseinh Kohlehyd Eisen Aprikose 86.79 g 12.1 0.4 mg Bürli Z.2 39.632 2.032 Tupel Attributwert 24/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

27 Normalisieren: Verteilen von Daten auf mehrere Tabellen
Nährwerte Name CH-Code Wasser Masseinh Kohlehyd Eisen Aprikose 86.79 g 12.1 0.4 mg Bürli Z.2 39.632 2.032 Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 Nährstoffe Nährstoff_id Name_d Name_f Name_i Masseinh. 57 Eisen Fer Ferro mg 84 Kohlehydrate Hydrate de carbon Carboidrate g 180 Wasser Eau Acqua Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ 25/43

28 Daten zusammenführen: Nährwerte von Bürli
Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 Nährwerte Name Name_d Menge Bürli Wasser 39.632 Kohlehydrate 48.802 Nährstoffe Id_Nr Name_d Name_f Name_i Masseinh. 57 Eisen Fer Ferro mg 84 Kohlehydrate Hydrate de carbon Carboidrate g 180 Wasser Eau Acqua Id_Nr Name_d Name_f Name_i Masseinh. 57 Eisen Fer Ferro mg 84 Kohlehydrate Hydrate de carbon Carboidrate g 180 Wasser Eau Acqua 26/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

29 Relationale Operatoren und SQL
Datenverwaltung Datenmodellierung Pause Datenbankentwurf Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

30 Relationale Operatoren
Die drei wichtigsten Operatoren der relationalen Algebra für das Manipulieren von Tabellen sind: a) Selection Wählt diejenigen Tupel einer Relation aus, welche bestimmte Bedingungen erfüllen b) Projection Wählt eine oder mehrere Spalten einer Relation aus c) Join Paart selektiv Spalten aus verschiedenen Relationen 27/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

31 Datenbanken abfragen: SQL
"Wieviele Nahrungsmittel enthalten weniger als 50 g Kohlehydrate ?" Natürlichsprachlich formulierte Frage Abfragesprache für Datenbanken z.B. SQL (Structured Query Language) SELECT Menge FROM Nährstoffe WHERE Nährstoff_id = 84 AND Menge < 50 Nährstoffe Tabellarische Ausgabe (Relation) 28/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

32 Projection mit dem SQL-Befehl SELECT
Attribut Relation SELECT CH-Code FROM Nahrungsmittel Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 Paranuss 5.929 Bürli Z.2 39.632 48.802 57 2.032 Resultat: CH-Code Z.2 29/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

33 Selection mit dem SQL-Befehl SELECT
Attributwert SELECT * FROM Nahrungsmittel WHERE Menge < 15 Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 Paranuss 5.929 Bürli Z.2 39.632 48.802 57 2.032 Resultat: Name CH-Code Nährstoff_id Menge Aprikose 84 12.1 Paranuss 180 5.929 Bürli Z.2 57 2.032 30/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

34 Selection + Projection mit dem SQL-Befehl SELECT
SELECT Nährstoff_id, Menge FROM Nahrungsmittel WHERE Nährstoff_id = 84 Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 Paranuss 5.929 Bürli Z.2 39.632 48.802 57 2.032 Resultat: Nährstoff_id Menge 84 12.1 48.802 31/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

35 Wie SELECT-Abfragen am besten gelesen werden
SELECT Nährstoff_id, Menge FROM Nahrungsmittel WHERE Nährstoff_id = 84    Die FROM-Klausel sagt, welche Relationen involviert sind. Die WHERE-Klausel zeigt, welche Attribute wichtig sind. Die SELECT-Klausel gibt an, was ausgegeben wird. 32/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

36 Selection + Projection + Join mit dem SQL-Befehl SELECT
SELECT Name, Name_d, Menge FROM NM, NS WHERE Name = Bürli AND Menge > 30 NM Resultat: Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 NM.Name NS.Name_d NM.Menge Bürli Wasser 39.632 Kohlehydrate 48.802 NS Id_Nr Name_d Name_f Name_i Masseinh. Hauptkomp. 57 Eisen Fer Ferro mg ja 84 Kohlehydrate Hydrate de carbon Carboidrate g 180 Wasser Eau Acqua 33/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

37 Datenschutz: Statistische Datenbanken
Datenverwaltung Datenmodellierung Pause Datenbankentwurf Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

38 Statistische Datenbanken
Vertrauliche Daten Abfragen beschränkt auf statistische Operationen (Aggregationen), die SQL zur Verfügung stellt: COUNT SUM MEAN MIN MAX 34/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

39 Statistische Datenbanken
Abfragen an Datenbanken werden als logischer Ausdruck formuliert Beispiel Suche: "Direktor OR weiblich AND (Gehalt ≥ )" Bei statistischen Datenbanken sind Antworten Resultate von Aggregations-Operatoren Somit stehen nur statistische Daten zur Verfügung Es werden empfindliche Daten nicht preisgegeben Trotzdem kann es leicht sein, bestimmte vertrauliche Daten durch geeignete statistische Abfragen, die Rückschlüsse zulassen, herzuleiten! 35/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

40 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 1
Die Daten sind erfunden, Ähnlichkeiten mit lebenden Personen sind rein zufällig! Von Urs Schmied (im Bild rechts) wissen wir, dass er zwischen 34 und 36 Jahre alt ist Jus studierte bei der UBS eine Position als Vizepräsident inne hat 36/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

41 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 1
Wir wissen auch, dass er im Spital ist, aber nicht wieso. Weil wir Zugang zur statistischen Datenbank des Spitals haben, formulieren wir eine COUNT-Abfrage: Wie viele Patienten haben folgende Eigenschaften? Männlich Alter 34 – 36 Verheiratet Zwei Kinder Lic.jur. Bank-Vizepräsident Antwort: 1 Wir gehen davon aus, dass es sich um Urs handelt und erhalten somit vertrauliche Informationen über ihn durch erweitern der Abfrage: 37/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

42 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 1
Wie viele Patienten haben folgende Eigenschaften? Männlich Alter 34 – 36 Verheiratet Zwei Kinder Lic.jur. Bank-Vizepräsident Nehmen Antidepressiva Das System wird mit "1" antworten, falls Schmied Antidepressiva erhält, sonst mit "0" 38/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

43 Lassen sich solche Rückschlüsse verhindern?
Ursache: Einfaches Prinzip der "Blossstellung" um X zu bestätigen Eine Abfrage deren Antwortgrösse 1 ist Die Antwortgrösse der Abfrage AND X Schutz: minimale Antwortgrösse, k, verlangen, d.h. Antworte auf keine Abfrage, die weniger als k oder mehr als n-k Datensätze in der Antwort hat. n = totale Anzahl Datensätze in der Datenbank Diese Kontrolle ist leider nicht sehr wirksam. 39/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

44 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 2
Geheime Wahlspenden Name Geschlecht Beruf Spende (CHF) Schamanski M Journalist 3000 Staub 500 Bertolli Unternehmer 1 Ott W 5000 Zwahlen Wissenschaftler 1000 Koller 20000 Waser Arzt 2000 Schmid Anwalt 10000 n = 8; bei k =2: min. Antwortgrösse = 2, max. Antwortgrösse = 6 40/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

45 Rückschlüsse mittels "Tracker"
Die Frage: (Beruf = Journalist AND Geschlecht = W) identifiziert Ott eindeutig (Antwort = 1). Schutz Die minimale Anwortgrösse (2) verhindert, dass geantwortet wird. Umgehung Kleine Antwortmengen "füttern", damit sie die minimale Antwortgrösse erreichen. Danach wird der Effekt der zusätzlichen Datensätze subtrahiert. Die Formel, welche die zusätzlichen Datensätze identifiziert, wird "Tracker" genannt (To "track down" additional characteristics of an individual) 41/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

46 Tracker anwenden Frage: Wie viele Personen sind Journalist? Antwort: 3
Frage: Wie viele Personen sind Journalist AND M? Antwort: 2 Rückschluss: (Journalist AND W) identifiziert 1 Individuum (Ott) Frage: Summe der Spenden der Journalisten? Antwort: CHF 8500 Frage: Summe der Spenden Journalist AND M? Antwort: CHF 4300 Rückschluss: Spende der einzigen Journalistin = CHF 5000! 42/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

47 Kontrolle ist schwierig
Abfragen tragen unweigerlich Information aus einer Datenbank Man kann deshalb nicht annehmen, dass sich ein System nie Blossstellen lässt Deshalb Zugriffe aufzeichnen (threat monitoring) Notwendiger Aufwand für Blossstellungen hoch halten 43/43 Informatik für Biol. & Pharm. Wissenschaften © Institut für Computational Science, ETHZ

48 Danke für Ihre Aufmerksamkeit