Agenda für heute, 6. November 2009

Präsentation zum Thema: "Agenda für heute, 6. November 2009"—  Präsentation transkript:

1 Agenda für heute, 6. November 2009
Datenverwaltung Datenmodellierung Pause Datenbankentwurf Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

2 Elemente der Datenverwaltung
Speicherkapazität + Rechenleistung Leute Information Daten Computer Programme Daten-verwaltung Verarbeitung + Speicherung Algorithmen + Datenstrukturen 2/43 © Departement Informatik, ETH Zürich

3 Datenverwaltung: Form follows Function
Verarbeitung stellt Anforderungen an Speicherung für: Unterstützung bei: - Einfügen, - Löschen, - Suchen, - Selektieren von Daten Algorithmen Art der Speicherung grenzt Verarbeitung ein durch: Einschränkung von: - Grösse - Flexibilität - Kompatibilität Datenstrukturen 3/43 © Departement Informatik, ETH Zürich

4 Datenverwaltung braucht ein universelles Speichermedium
Tabellen: die praktischste Datenstruktur um den Speicher zu organisieren. Mit Tabellen lassen sich Einschränkungen der Speicherung leicht beheben. Grösse: Tabellen lassen sich leicht aufteilen oder zusammenfügen, das Resultat sind wieder Tabellen Flexibilität: Sowohl die Anzahl Spalten als auch die Anzahl Zeilen sind frei wählbar Kompatibilität: Tabellen lassen sich einfach zwischen Anwendungen austauschen. 4/43 © Departement Informatik, ETH Zürich

5 Die Tabelle als universelles Speichermedium
Nährwerte Schokoladencornet Nährstoff Wert Einheit Energie 1'230 kJ Wasser 40.50 g Protein 4.70 Fett, total 13.40 Fettsäuren, gesättigt 7.00 Cholesterin 27.00 mg Nährwerte Schokoladencornet Nährstoff Wert Einheit Energie 1'230 kJ Wasser 40.50 g Protein 4.70 Fett, total 13.40 Cholesterin 27.00 mg Nährwerte Schokoladencornet Nährstoff Wert Einheit Energie 1'230 kJ Wasser 40.50 g Protein 4.70 Fett, total 13.40 Cholesterin 27.00 mg löschen suchen löschen einfügen selektieren ([Spalte_x, Zeile_y]) 5/43 © Departement Informatik, ETH Zürich

6 Die Tabelle als flexibles Speichermedium
Die Tabelle kann man so organisieren, dass sie mit zusätzlichen Spalten erweitert werden kann: Nährwerte Schokoladenprodukte Nährstoff Cornet Pudding Schokolade … Einheit Energie 1'230 498 2'258 kJ Wasser 40.50 71.20 1.30 g Protein 4.70 3.00 7.50 Fett, total 13.40 2.60 32.90 Fettsäuren, gesättigt 7.00 0.40 19.10 Cholesterin 27.00 20.00 mg 6/43 © Departement Informatik, ETH Zürich

7 Die Tabelle als flexibles Speichermedium
Oder so, dass sie mit zusätzlichen Zeilen grösser wird: Nährwerte Schokoladenprodukte Produkt Energie Wasser Protein Fett, total Fettsäuren, gesättigt Cholesterin Cornet 1'230.0 40.5 4.7 13.4 7.0 27.0 Pudding 498.0 71.2 1.3 2.6 0.4 3.0 Schokolade 2'258.0 7.5 32.9 19.1 20.0 … Einheit kJ g mg Nehmen wir an, wir möchten nun den Zuckergehalt von Schokoladen-Rahmglace speichern. 7/43 © Departement Informatik, ETH Zürich

8 Probleme mit der Tabelle als flexibles Speichermedium
. . . dann gibt es "Löcher" in der Tabelle: Nährwerte Schokoladenprodukte Produkt Energie Wasser Protein Zucker Fett, total Fettsäuren, gesättigt Cholesterin Cornet 1'230.0 40.5 4.7 13.4 7.0 27.0 Pudding 498.0 71.2 1.3 2.6 0.4 3.0 Rahmglace 24.6 Schokolade 2'258.0 7.5 32.9 19.1 20.0 Einheit kJ g mg Dies lässt sich mit "Listen" vermeiden. 8/43 © Departement Informatik, ETH Zürich

9 Vereinfachung der Struktur durch linearisieren der Einträge
Nährwerte Schokoladenprodukte Produkt Nährstoff Wert Einheit Cornet Energie 1'230 kJ Wasser 40.50 g Protein 4.70 Fett, total 13.40 Fettsäuren, gesättigt 7.00 Cholesterin 27.00 mg Pudding 498 71.20 3.00 2.60 0.40 Rahmglace Zucker 24.6 Redundanz Vorteil Einfache Speicherung Einfache Verarbeitung Nachteil Gross Unübersichtlich 9/43 © Departement Informatik, ETH Zürich

10 Die Nachteile einfacher Listen lassen sich beheben
Übersichtlichkeit wieder gewinnen Listeneinträge selektieren Zusammenfassungen berechnen Daten reformatieren: Pivot-Tabellen Voraussetzung: Die Daten sind als Liste organisiert. Redundanz eliminieren Tabelle entlang Spaltengrenzen aufteilen Wiederholungen in Teiltabellen entfernen Einträge in Teiltabellen indizieren Über Indizes Verbindung zu abgetrennten Teilen herstellen 10/43 © Departement Informatik, ETH Zürich

11 Daten thematisch in verschiedene Tabellen aufteilen
eliminieren Die Einträge der neuen Tabellen über Querverweise verbinden 11/43 © Departement Informatik, ETH Zürich

12 Konsequenzen für die Datenverwaltung
Damit Daten für ihre Verarbeitung thematisch gespeichert werden können, müssen deren Eigenschaften erkannt, und vereinfacht dargestellt werden. So wie die Naturwissenschaften komplexe Zusammenhänge mit Modellen vereinfacht und sichtbar macht, verwendet die Informatik Datenmodelle um Merkmale von Daten und deren Beziehungen zueinander zu erfassen. 12/43 © Departement Informatik, ETH Zürich

13 Datenmodellierung Datenverwaltung Pause Datenbankentwurf
Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

14 Hilfsmittel für die Modellierung von Daten
Eine Beschreibung der Verarbeitung und Speicherung der Daten muss für Leute verständlich sein, sich aber auch für die Programmierung eignen! Methode Unterstützt Mind mapping Gedanken assoziativ spontan darstellen Concept Maps Wissen kontextabhängig organisieren und darstellen Entity-Relationship Modell Datenbankgerechte Darstellung von Objekten, deren Merkmale und Beziehungen zueinander 13/43 © Departement Informatik, ETH Zürich

15 Merkmale um den Begriff "Lebensmittel" zu beschreiben
Mind mapping Merkmale um den Begriff "Lebensmittel" zu beschreiben 14/43 © Departement Informatik, ETH Zürich

16 Concept maps 15/43 © Departement Informatik, ETH Zürich

17 Entity-Relationship-Diagramm (Chen Notation)
Beziehungstyp (Kardinalität) Name Nährstoff Name Typ m m Nahrungsmittel Analyse Nährstoffe Nährstoffe Wert Methode Masseinheit Entitätsmenge Entitätsmenge Beziehung (Relationship) Merkmal (Attribut) 16/43 © Departement Informatik, ETH Zürich

18 Anwendung des E-R-Modells: Tabellen für Entitätsmengen
Nährwerte Name Aprikose Kochbutter Paranuss CH-Code Z.2 Protein 0.8 0.5 13 Masseinheit g Wasser 86.79 16.6 5.929 Kalium 315 20 680 mg Kohlehydrate 12.1 0.7 11.8 Vitamin E 1.75 7 Attribut Attributname Entität 17/43 © Departement Informatik, ETH Zürich

19 Vereinfachung: Entflechten von Information
Nahrungsmittel Name Aprikose Bürli CH-Code Z.2 Nährstoff_id 180 84 57 Menge 86.79 12.1 0.4 39.632 48.802 2.032 Verbindende Indizes Nährstoffe Nährstoff_id 57 84 180 178 Name_d Eisen Kohlehydrate Wasser Vitamin K Name_f Fer Hydrate de carbon Eau Vitamine K Name_i Ferro Carboidrati Acqua Vitamina K Masseinheit mg g Primärschlüssel: identifiziert Datensatz eindeutig Fremdschlüssel: Primärschlüssel einer anderen Entitätsmenge 18/43 © Departement Informatik, ETH Zürich

20 Tabellen für Beziehungen (Relationships)
Ein Nahrungsmittel kann mehrmals analysiert werden Nahrungsmittel NMittel_id Name_d Aprikose Bürli Name_f Abricot Name_i Albicocca CH-Code Z.2 Analyse Analyse_id 1 2 NMittel_id Nährstoff_id 180 84 Quelle CIQUAL Inst. f. LMW Menge 86.79 48.802 Methode unbekannt Summenwert Person M. Racher S. Jacob 1 m m Eine Analyse betrifft nur ein Nahrungsmittel Nährstoffe Nährstoff_id 180 84 57 178 Name_d Wasser Kohlehydrat Eisen Vitamin K Name_f Eau Hydrate de carbon Fer Vitamine K Name_i Acqua Carboidrati Ferro Vitamina K Masseinheit g mg 1 19/43 © Departement Informatik, ETH Zürich

21 Zusammenfassung 20/43 © Departement Informatik, ETH Zürich

22 Datenbankentwurf Datenverwaltung Datenmodellierung Pause
Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

23 Entity-Relationship-Modell
Modelle vs. Schemata Modellierung der Daten aus der realen Welt Entity-Relationship-Modell Konzeptionelles Schema Relationales Datenmodell Modellierung der Daten im Rechner 21/43 © Departement Informatik, ETH Zürich

24 Grundlagen für den Datenbankentwurf
Selektive Abfrage Basisdaten Datenbank Konzeptionelles Schema Logische Gesamtstruktur Eigenschaften der Daten Beziehungen unter den Daten Datenmodell Internes Schema Externes Schema Datenstrukturen Datentypen Zugriffsmechanismen Anwendungsspezifische Sicht auf die Daten 22/43 © Departement Informatik, ETH Zürich

25 Das Verbreitetste: Das Relationenmodell
Tabellen in denen Einträge (Tupel) eingefügt, gelöscht oder geändert werden können (Mutationen) Verteilen von Daten auf mehrere Tabellen (Normalisieren) reduziert Redundanz, d.h. die wiederholte Speicherung gleicher Werte Verknüpfen von Daten aus den individuellen Tabellen mit relationalen Operatoren stellt die ursprüngliche Information wieder her 23/43 © Departement Informatik, ETH Zürich

26 Elemente einer Relation
Attributname Attribut Nährwerte Name CH-Code Wasser Masseinh. Kohlehyd Eisen Aprikose 86.79 g 12.1 0.4 mg Bürli Z.2 39.632 2.032 Tupel Attributwert 24/43 © Departement Informatik, ETH Zürich

27 Normalisieren: Verteilen von Daten auf mehrere Tabellen
Nährwerte Name CH-Code Wasser Masseinh. Kohlehyd Eisen Aprikose 86.79 g 12.1 0.4 mg Bürli Z.2 39.632 2.032 Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 Nährstoffe Nährstoff_id Name_d Name_f Name_i Masseinh. 57 Eisen Fer Ferro mg 84 Kohlehydrate Hydrate de carbon Carboidrate g 180 Wasser Eau Acqua 25/43 © Departement Informatik, ETH Zürich

28 Daten zusammenführen: Nährwerte von Bürli
Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 Nährwerte Name Name_d Menge Bürli Wasser 39.632 Kohlehydrate 48.802 Nährstoffe Id_Nr Name_d Name_f Name_i Masseinh. 57 Eisen Fer Ferro mg 84 Kohlehydrate Hydrate de carbon Carboidrate g 180 Wasser Eau Acqua 26/43 © Departement Informatik, ETH Zürich

29 Relationale Operatoren und SQL
Datenverwaltung Datenmodellierung Pause Datenbankentwurf Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

30 Relationale Operatoren
Die drei wichtigsten Operatoren der relationalen Algebra für das Manipulieren von Tabellen sind: a) Selection Wählt diejenigen Tupel einer Relation aus, welche bestimmte Bedingungen erfüllen b) Projection Wählt eine oder mehrere Spalten einer Relation aus c) Join Paart selektiv Spalten aus verschiedenen Relationen 27/43 © Departement Informatik, ETH Zürich

31 Datenbanken abfragen: SQL
"Wieviele Nahrungsmittel enthalten weniger als 50 g Kohlehydrate ?" Natürlichsprachlich formulierte Frage Abfragesprache für Datenbanken z.B. SQL (Structured Query Language) SELECT Menge FROM Nährstoffe WHERE Nährstoff_id = 84 AND Menge < 50 Nährstoffe Tabellarische Ausgabe (Relation) 28/43 © Departement Informatik, ETH Zürich

32 Projection mit dem SQL-Befehl SELECT
Attribut Relation SELECT CH-Code FROM Nahrungsmittel Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 Paranuss 5.929 Bürli Z.2 39.632 48.802 57 2.032 Resultat: CH-Code Z.2 29/43 © Departement Informatik, ETH Zürich

33 Selection mit dem SQL-Befehl SELECT
Attributwert SELECT * FROM Nahrungsmittel WHERE Menge < 15 Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 Paranuss 5.929 Bürli Z.2 39.632 48.802 57 2.032 Resultat: Name CH-Code Nährstoff_id Menge Aprikose 84 12.1 Paranuss 180 5.929 Bürli Z.2 57 2.032 30/43 © Departement Informatik, ETH Zürich

34 Selection + Projection mit dem SQL-Befehl SELECT
SELECT Nährstoff_id, Menge FROM Nahrungsmittel WHERE Nährstoff_id = 84 Nahrungsmittel Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 Paranuss 5.929 Bürli Z.2 39.632 48.802 57 2.032 Resultat: Nährstoff_id Menge 84 12.1 48.802 31/43 © Departement Informatik, ETH Zürich

35 Wie SELECT-Abfragen am besten gelesen werden
SELECT Nährstoff_id, Menge FROM Nahrungsmittel WHERE Nährstoff_id = 84    Die FROM-Klausel sagt, welche Relationen involviert sind. Die WHERE-Klausel zeigt, welche Attribute wichtig sind. Die SELECT-Klausel gibt an, was ausgegeben wird. 32/43 © Departement Informatik, ETH Zürich

36 Selection + Projection + Join mit dem SQL-Befehl SELECT
SELECT Name, Name_d, Menge FROM NM, NS WHERE Name = Bürli AND Menge > 30 NM Resultat: Name CH-Code Nährstoff_id Menge Aprikose 180 86.79 84 12.1 57 0.4 Bürli Z.2 39.632 48.802 2.032 NM.Name NS.Name_d NM.Menge Bürli Wasser 39.632 Kohlehydrate 48.802 NS Id_Nr Name_d Name_f Name_i Masseinh. Hauptkomp. 57 Eisen Fer Ferro mg ja 84 Kohlehydrate Hydrate de carbon Carboidrate g 180 Wasser Eau Acqua 33/43 © Departement Informatik, ETH Zürich

37 Datenschutz: Statistische Datenbanken
Datenverwaltung Datenmodellierung Pause Datenbankentwurf Relationale Operatoren und SQL Datenschutz: Statistische Datenbanken

38 Statistische Datenbanken
Vertrauliche Daten Abfragen beschränkt auf statistische Operationen (Aggregationen), die SQL zur Verfügung stellt: COUNT SUM MEAN MIN MAX 34/43 © Departement Informatik, ETH Zürich

39 Statistische Datenbanken
Abfragen an Datenbanken werden als logischer Ausdruck formuliert Beispiel Suche: "Direktor OR weiblich AND (Gehalt ≥ )" Bei statistischen Datenbanken sind Antworten Resultate von Aggregations-Operatoren Somit stehen nur statistische Daten zur Verfügung Es werden empfindliche Daten nicht preisgegeben Trotzdem kann es leicht sein, bestimmte vertrauliche Daten durch geeignete statistische Abfragen, die Rückschlüsse zulassen, herzuleiten! 35/43 © Departement Informatik, ETH Zürich

40 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 1
Die Daten sind erfunden, Ähnlichkeiten mit lebenden Personen sind rein zufällig! Von Urs Schmied (im Bild rechts) wissen wir, dass er zwischen 34 und 36 Jahre alt ist Jus studierte bei der UBS eine Position als Vizedirektor inne hat 36/43 © Departement Informatik, ETH Zürich

41 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 1
Wir wissen auch, dass er im Spital ist, aber nicht wieso. Weil wir Zugang zur statistischen Datenbank des Spitals haben, formulieren wir eine COUNT-Abfrage: Wie viele Patienten haben folgende Eigenschaften? Männlich Alter 34 – 36 Verheiratet Zwei Kinder Lic.jur. Bank-Vizedirektor Antwort: 1 Wir gehen davon aus, dass es sich um Urs handelt und erhalten somit vertrauliche Informationen über ihn durch erweitern der Abfrage: 37/43 © Departement Informatik, ETH Zürich

42 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 1
Wie viele Patienten haben folgende Eigenschaften? Männlich Alter 34 – 36 Verheiratet Zwei Kinder Lic.jur. Bank-Vizedirektor Nehmen Antidepressiva Das System wird mit "1" antworten, falls Schmied Antidepressiva erhält, sonst mit "0" 38/43 © Departement Informatik, ETH Zürich

43 Lassen sich solche Rückschlüsse verhindern?
Ursache: Einfaches Prinzip der "Blossstellung" um X zu bestätigen Eine Abfrage deren Antwortgrösse 1 ist Die Antwortgrösse der Abfrage AND X Schutz: minimale Antwortgrösse, k, verlangen, d.h. Antworte auf keine Abfrage, die weniger als k oder mehr als n-k Datensätze in der Antwort hat. n = totale Anzahl Datensätze in der Datenbank Diese Kontrolle ist leider nicht sehr wirksam. 39/43 © Departement Informatik, ETH Zürich

44 Gewisses Vorwissen erlaubt Rückschlüsse: Beispiel 2
Geheime Wahlspenden Name Geschlecht Beruf Spende (CHF) Schamanski M Journalist 3000 Staub 500 Bertolli Unternehmer 1 Ott W 5000 Zwahlen Wissenschaftler 1000 Koller 20000 Waser Arzt 2000 Schmid Anwalt 10000 n = 8; bei k =2: min. Antwortgrösse = 2, max. Antwortgrösse = 6 40/43 © Departement Informatik, ETH Zürich

45 Rückschlüsse mittels "Tracker"
Die Frage: (Beruf = Journalist AND Geschlecht = W) identifiziert Ott eindeutig (Antwort = 1). Schutz Die minimale Anwortgrösse (2) verhindert, dass geantwortet wird. Umgehung Kleine Antwortmengen "füttern", damit sie die minimale Antwortgrösse erreichen. Danach wird der Effekt der zusätzlichen Datensätze subtrahiert. Die Formel, welche die zusätzlichen Datensätze identifiziert, wird "Tracker" genannt (To "track down" additional characteristics of an individual) 41/43 © Departement Informatik, ETH Zürich

46 Tracker anwenden Frage: Wie viele Personen sind Journalist? Antwort: 3
Frage: Wie viele Personen sind Journalist AND M? Antwort: 2 Rückschluss: (Journalist AND W) identifiziert 1 Individuum (Ott) Frage: Summe der Spenden der Journalisten? Antwort: CHF 8500 Frage: Summe der Spenden Journalist AND M? Antwort: CHF 3500 Rückschluss: Spende der einzigen Journalistin = CHF 5000! 42/43 © Departement Informatik, ETH Zürich

47 Kontrolle ist schwierig
Abfragen tragen unweigerlich Information aus einer Datenbank Man kann deshalb nicht annehmen, dass sich ein System nie Blossstellen lässt Deshalb Zugriffe aufzeichnen (threat monitoring) Notwendiger Aufwand für Blossstellungen hoch halten 43/43 © Departement Informatik, ETH Zürich

48 Wir wünschen Ihnen ein schönes Wochenende