Vorlesung #2 Physische Datenorganisation

Slides:



Advertisements
Ähnliche Präsentationen
Hash-Tabellen und -Funktionen Hash-Tabellen in Java
Advertisements

Eine dynamische Menge, die diese Operationen unterstützt,
Vorlesung Programmieren II
Dr. Brigitte Mathiak Kapitel 10 Physische Datenorganisation.
Datenbanken Einführung.
Folien 2-5, 7-8 © Prof. Dr. Manfred Rössle (FH Aalen)
Dr. Brigitte Mathiak Kapitel 9 Physische Datenorganisation (ganz kurz)
Systemüberblick Beispiele: Microsoft Access Oracle Ingres Informix
Grundlagen Datenbanken
Effizienz: Indexstrukturen
Algorithmentheorie 04 –Hashing
Access 2000 Datenbanken.
Einführung Dateisystem <-> Datenbanksystem
7.1 Externes Suchen Bisherige Algorithmen: geeignet, wenn alle Daten im Hauptspeicher. Große Datenmengen: oft auf externen Speichermedien, z.B. Festplatte.
WS 2004/2005 Datenbanken II - 5W Mi 17:00 – 18:30 G 3.18 Vorlesung #4 Anfragebearbeitung (Teil 2)
SS 2013 – IBB4B Datenmanagement Fr 17:00 – 18:30 R Vorlesung #5 Relationale Entwurfstheorie.
WS 2009/10 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #6 SQL (Teil 3)
WS 2013/14 Datenbanksysteme Do 17:00 – 18:30 R Vorlesung #4 SQL (Teil 1)
SS 2011 – IBB4C Datenmanagement Fr 15:15 – 16:45 R Vorlesung #5 Relationale Entwurfstheorie.
WS 2013/14 Datenbanksysteme Do 17:00 – 18:30 R Vorlesung #6 SQL (Teil 3)
WS 2009/10 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #3 Das relationale Modell (Teil 2)
WS 2007/08 Datenbanksysteme Mi 17:00 – 18:30 R Vorlesung #10 Physische Datenorganisation.
SS 2010 – IBB4C Datenmanagement Fr 15:15 – 16:45 R Vorlesung #2 Datenbankentwurf.
WS 2011/12 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #6 SQL (Teil 3)
SS 2004 Datenbanken 4W Mi 13:30 – 15:00 G 2.30 Vorlesung #7 SQL (Teil 2)
WS 2007/08 Datenbanksysteme Mi 17:00 – 18:30 R Vorlesung #3 Relationale Anfragesprachen.
WS 2011/12 Datenbanksysteme Mi 15:15 – 16:45 R Vorlesung #9 Physische Datenorganisation.
Vorlesung #4 Überführung des ER-Modells in das relationale Modell
Vorlesung #4 SQL (Teil 1).
WS 2011/12 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #8 Anfragebearbeitung.
SS 2004 Datenbanken 4W Mi 13:30 – 15:00 G 2.30 Vorlesung #3 ER Modellierung.
SS 2004 Datenbanken 4W Mi 13:30 – 15:00 G 2.30 Vorlesung #8 SQL (Teil 3)
SS 2004 Datenbanken 4W Mi 13:30 – 15:00 G 2.30 Vorlesung #5 Relationale Anfragesprachen.
WS 2012/13 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #2 Das relationale Modell (Teil 1)
WS 2011/12 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #3 Das relationale Modell (Teil 2)
SS 2004 Datenbanken 4W Mi 13:30 – 15:00 G 2.30 Vorlesung #6 SQL (Teil 1)
WS 2013/14 Datenbanksysteme Do 17:00 – 18:30 R Vorlesung #2 Das relationale Modell (Teil 1)
WS 2013/14 Datenbanksysteme Do 17:00 – 18:30 R Vorlesung #7 SQL (Teil 4)
WS 2013/14 Datenbanksysteme D0 15:15 – 16:45 R Vorlesung #5 SQL (Teil 2)
WS 2013/14 Datenbanksysteme Fr 17:00 – 18:30 R Vorlesung #3 Das relationale Modell (Teil 2)
WS 2012/13 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #9 Anfragebearbeitung.
WS 2007/08 Datenbanksysteme Mi 17:00 – 18:30 R Vorlesung #9 Anfragebearbeitung (Teil 1)
WS 2007/08 Datenbanksysteme Mi 17:00 – 18:30 R Vorlesung #5 SQL (Teil 2)
WS 2012/13 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #7 SQL (Teil 4)
Vorlesung #4 Überführung des ER-Modells in das relationale Modell
WS 2012/13 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #3 Das relationale Modell (Teil 2)
WS 2011/12 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #4 SQL (Teil 1)
Vorlesung Datenbanksysteme vom Physische Datenorganisation
Datenbanksysteme für hörer anderer Fachrichtungen
WS 2011/12 Datenbanksysteme Fr 15:15 – 16:45 R Vorlesung #5 SQL (Teil 2)
Vorlesung #10 Physische Datenorganisation
WS 2013/14 Datenbanksysteme Do 17:00 – 18:30 R Vorlesung #9 Anfragebearbeitung.
ADAT©2004 Dipl. - Ing. Walter SabinSeite: 28 Version 1.0a Elementare Datenstrukturen –Tables Ansammlung von rows Jede row enthält eine oder mehrere column(s)
WS 2004/2005 Datenbanken II - 5W Mi 17:00 – 18:30 G 3.18 Vorlesung #3 Anfragebearbeitung (Teil 1)
Vorlesung #5 SQL (Teil 2).
Vorlesung #2 Das relationale Modell (Teil 1)
Einführung Dateisystem <-> Datenbanksystem
WS 2004/2005 Datenbanken II - 5W Mi 17:00 – 18:30 G 3.18 Vorlesung #10 RDBMS Erweiterungen.
WS 2014/15 Datenbanksysteme D0 15:15 – 16:45 R Vorlesung #6 SQL (Teil 3)
Vorlesung Datenbanksysteme vom Physische Datenorganisation
Vorlesung Datenbanksysteme vom Anfragebearbeitung  Logische Optimierung.
WS 2014/15 Datenbanksysteme Do 17:00 – 18:30 R Vorlesung #9 SQL Zusammenfassung.
SS 2015 – IBB4C Datenmanagement Fr 17:00 – 18:30 R Vorlesung #5 Relationale Entwurfstheorie.
SS 2015 – IBB4C Datenmanagement Fr 17:00 – 18:30 R Vorlesung #4 Überführung des ER-Modells in das relationale Modell.
Datenbanken abfragen mit SQL
Vorlesung #4 Relationales Kalkül und SQL (Teil 1)
Vorlesung #10 Physische Datenorganisation
Vorlesung #7 SQL (Teil 4).
Vorlesung #8 Physische Datenorganisation
Indexierung Oracle: indexes Indexierung.
 Präsentation transkript:

Vorlesung #2 Physische Datenorganisation

Vorlesung #2 - Physische Datenorganization „Fahrplan“ Einführung und Motivation Trennung der logischen und der physischen Ebene einer Datenbank Speichermedien (Platten, RAID usw.), Speicherhierarchien (Cache, Hauptspeicher, Hintergrundsspeicher usw.) Abbildung von Relationen auf den Hintergrundsspeicher Indexstrukturen (Algorithmen und Datenstrukturen!) ISAM B-Bäume Hashing Clustering (Ballung) Unterstützung eines Anwendungsverhaltens Physische Datenorganisation in SQL Fazit und Ausblick Vorlesung #3 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Einführung und Motivation Die Benutzung und somit die Akzeptanz einer Datenbank wird maßgeblich durch die Antwortzeiten des Systems bestimmt. Selbst eine sehr gut modellierte Datenbank(anwendung) wird von Benutzern nicht akzeptiert, wenn sie langsam ist. Eine effiziente physische Organisation der Daten und der Zugriffe ist die Voraussetzung für akzeptable Datenbanken. Physische Organisation der Daten muss unabhängig von logischen Schema-Veränderungen bleiben, um System-Änderungen und vor allem System-Wachstum effizient unterstützen können. Man hat die Wahl zwischen mehreren physischen Entwürfen und kann das Optimale wählen. Die heute marktbeherrschenden (objekt)relationalen Datenbanken haben sich auch dank effizienter physischen Implementierung und der strikten Trennung zwischen der logischen und der physischen Ebene durchgesetzt. © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Wiederholung: DBMS 3 -Abstraktionsebenen Externes Schema - Sicht 1 Externes Schema - Sicht 2 Externes Schema - Sicht n ... Logische Ebene Konzeptionelles Schema Physische Ebene Physische Speicherung – internes Schema © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization 3 Abstraktionsebenen Ebene 1: Sichten – Datenbank VIEWs Ebene 2: Relationen – Datenbank Tabellen mit ihren logischen Attributen Ebene 3: Datenstrukturen bzw. Speicherstrukturen – Datenbank Tabellen mit ihren physischen Attributen © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Beispiel: logische und physische Datenunabhängigkeit Internet-Besucher Studenten CREATE VIEW ProfVorlesung AS SELECT Name, Titel FROM Professoren, Vorlesungen WHERE PersNr = gelesenVon; ProfVerlesung CREATE VIEW ProfVorlesung AS SELECT Name, Titel FROM Dozenten NATURAL JOIN lesen NATURAL JOIN Kurse; Professoren Vorlesungen Dozenten lesen Kurse IOT lesen CT lesen,Kurse PT lesen © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Erläuterung zum Beispiel Man hat mehrere Möglichkeiten, eine Relation („logische“ Tabelle mit ihren Attributen) als eine „physische“ oder DBMS-Tabelle zu implementieren. Die Abkürzungen bedeuten (keine Standard-Abkürzungen) IOT – Index Organized Table HT – Heap Table CT – Clustered Tables PT – Partitioned Tables SQL Code Beispiele am Ende der Vorlesung! © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Speichermedien und Speicherhierarchien Es gibt eine Zugriffslücke 105 zwischen dem Haupt- und dem Hintergrundsspeicher, die vor allem an mechanische Vorgänge innerhalb eines Plattenstapels zurückzuführen ist RAID Systeme sind fehlertoleranter und performanter als einzelne Platten ... weiter Folien Kemper 7.2 – 7.22 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Puffer-Verwaltung Hauptspeicher ist nicht nur viel schneller sondern auch viel kleiner als Hintergrundsspeicher  nicht genug Platz für alle Seiten Ständiges Ein-/ und Auslagern der Seiten mit dem Ziel möglichst viele aktuelle oder in der nächsten Zukunft gebrauchte Seiten im Hauptspeicher bereit zu halten ... Kemper 7.24 – 7.25 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Abbildung von Relationen auf den Sekundarspeicher Die Tupel einer Relation (Zeilen, Rows) werden so abgespeichert, dass sie nicht über die Grenzen einer Seite hinausgehen. Jeder Tupel enthält eine Tupel-ID, jede Seite eine interne Datensatztabelle Beim Wachstum der Tupel muss reorganisiert d.h auf andere Seiten umgezogen werden ... Kemper 7.26 – 7.29 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Indexstrukturen ISAM – Index Sequential Access Method Vom Prinzip her wie ein Daumenindex eines Wörterbuchs mit Indexseiten und Datenseiten Schlechtes Verhalten bei UPDATE Operationen Hinzufügen einer weiteren Indirektion (eines weiteren Zeigers)  B-Bäume © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization B-Bäume Binärbäume wurden als Suchstruktur für den Hauptspeicher konzipiert Für den Hintergrundspeicher nimmt man balancierte Mehrwegbäume, deren Knotengrößen auf die Seitenkapazitäten angepasst sind Balancierung bedeutet, dass jedes Blatt von der Wurzel gleich entfernt ist, d.h. die Suche logk(n) dauert k ist der Verzweigungsgrad n – Anzahl der Datensätze ... Kemper 7.30 – 7.113 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization B+-Bäume Die Höhe des B-Baums ist direkt abhängig von der Satzgröße Je höher der Verzweigungsgrad des Baumes ist, umso „flacher“ ist der Baum, umso effizienter ist der Zugriff  B+- Baum = die Daten werden nur in den Blättern abgespeichert, der Rest des Baumes ist „hohl“ und stellt lediglich eine sehr effiziente Road Map zum Auffinden der gewünschten Datensätze Die Reorganisation ist durch die Verwendung der Referenzschlüssel im Baum viel effizienter, da sich die Datensätze nur in Blättern verändern ... Kemper 113 - 114 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Präfix B+-Bäume Verbesserungsmöglichkeit: statt gesamten Schlüsseln nur Teile von Schlüsseln, d.h. Präfixe zu speichern Gut bei Nachnamen, z.B. nur erste Buchstabe statt dem gesamten Namen Schlecht bei Werten mit gleichen Präfixen wie „Systemprogramm“, „Systemprogrammierung“, „Systemprogrammierer“ usw. ... Kemper 115 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Hashing Das Ziel: ein Datum mit einem bis zwei Datenzugriffen zu finden (Bäume logk(n) ) Hashing ist die Technik die in Compilerbau, Betriebsystemen etc. oft angewendet wird Zugriff zwischen O(1) und O(n), in der Praxis aber meistens sehr gute Ergebnisse Beschreibung: mit Hilfe einer Hashfunktion wird eine Schlüsselmenge S wird auf eine Hashtabelle B (Buckets) abgebildet h: S  B wobei |S| >> |B| © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Hashing (2) Wegen |S| >> |B| ist h nicht injektiv, d.h. es ist in der Hashtabelle nicht genug Platz für alle Schlüssel aus S Als Hashfunktion wählt man meistens das Divisonsrestverfahren (Modulo-Funktion) h(x) := x mod p p soll wegen der besseren Streuung eine Primzahl sein Es kann auftreten h(s1) = h(s2) = b1 Man braucht dann eine Kollisionsroutine Statisches Hashing – Chaining der Sätze gleichem h(s) Erweiterbares Hashing – dynamisches Wachsen der Hash-Tabelle ... Kemper 125 - 139 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Mehrdimensionale Indexstrukturen für häufige Anfragen mit Selektionsprädikaten über mehrere gleiche Attribute, z.B. wenn sehr oft Alter und Gehalt gemeinsam abgefragt werden kann sehr schön mit algorithmischer Geometrie und Bildverarbeitung verknüpft werden ... Kemper 150 - 162 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Clustering Ballung von Datensätzen Oft selektierte Datensätze sollten idealerweise physikalisch auf einer Seite abgespeichert werden Die Tupeln einer Relation werden sortiert nach den Werten eines Attributs physikalisch abgelegt  Problem: es wird oft über mehrere Attribute abgefragt  Lösung: Zusammenspiel zwischen mehreren Indexstrukturen und Clustering Weitere Möglichkeit für Clustering: Materialisierung von Beziehung (Join Clusters) Bsp: Professoren werden verzahnt mit Vorlesungen abgespeichert (verzahnte Objektballung) ... Kemper 163 - 166 © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Clustering und Index-Pflege Bei Verwendung mehrer Indexstrukturen auf einer Tabelle muss eine zusätzliche Indirektion pro Index eingeführt und zusätzlich gepflegt werden Die INSERTs und UPDATEs führen in der Regel zur aufwändigen Index-Reorganisationen (zusätzliche Zeiger bei Indirektion, B-Baum Änderungsoperationen wie Spalten und Zusammenfassen der Knoten) In der Praxis werden Indizies aus Effizienzgründen oft vor der Durchführung der Massen-UPDATEs und INSERTS gelöscht und danach neu erstellt. Es bestehen aber auch die Möglichkeiten der Online-Reorganisation und Aktualisierung © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Unterstützung des Anwenderverhaltens Für unterschiedliche Arten von Abfragen und/oder Veränderungsoperationen eignen sich unterschiedliche Zugriffstechniken unterschiedlich gut Beispiel: Exact Match Query vs. Range Query --exact SELECT Name FROM Professoren WHERE PersNr = 4711; -- range WHERE Gehalt BETWEEN 40000 AND 50000; Besser mit Hashing! Besser mit B+Baum! © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Unterstützung des Anwenderverhaltens (2) Es gibt noch weitere Möglichkeiten, die Zugriffe bzw. Speicherung der Daten effizienter zu gestalten BITMAP und BITMAP JOIN Index nur für lesende Zugriffe wird bei Data Warehousing vorgestellt Partitionierung Tabelle wird in unterschiedliche Partionen aufgeteilt, die unterschiedlich voneinander physikalisch verwaltet werden können wird bei verteilten Datenbanken vorgestellt © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Physische Dateiorganisation in SQL So gut wie keine Standardisierung CREATE INDEX SemesterInd ON Studenten(Semester); DROP IINDEX SemesterInd; Zu beachten sind die Eigenschaften des jeweiligen DBMS, so legt z.B. Oracle für jedes Primärschlüsselattribut automatische einen Index an © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Physische Dateiorganisation in ORACLE (2 von ca. 60 Klauseln) CREATE TABLE { segment_attributes_clause [ data_segment_compression ] | ORGANIZATION { HEAP [ segment_attributes_clause ] [ data_segment_compression ] | INDEX [ segment_attributes_clause ] index_org_table_clause | EXTERNAL external_table_clause } | CLUSTER cluster ( column[, column ]... ) } physical attributes clause: [{ PCTFREE integer | PCTUSED integer | INITRANS integer | MAXTRANS integer | storage_clause } [ PCTFREE integer | PCTUSED integer | INITRANS integer | MAXTRANS integer | storage_clause ]... ] © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Fazit Vorlesung #2 Bedeutung der strikten Trennung der logischen und physischen Ebene einer Datenbank und deren positive Auswirkung auf die Performance und Flexibilität der Datenbank Speichermedien (RAM, Platte, RAID, Bänder) Speicherhierarchien, Zugriffslücke, Notwendigkeit der Pufferverwaltung Zugriffstechniken: B+Bäume, Hashing, Clustering Unterstützung des Anwenderverhaltens (so gut wie keine) SQL Standards © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 - Physische Datenorganization Ausblick Vorlesung #3 Anfragebearbeitung Logische Optimierung Äquivalenzen und „Rechenregeln“ in der relationalen Algebra Anwendung der Transformationsregeln für Optimierungszwecke Physische Optimierung Selektion, Join-Operatoren Gruppierung, Duplikateliminierung, Projektion, Vereinigung, Sortierung Kostenmodelle Tuning © Bojan Milijaš, 20.10.2004 Vorlesung #2 - Physische Datenorganization

Vorlesung #2 Ende