Oracle Text bei sehr großen Datenmengen

Referent Martin Augst Senior Project / Account Manager Semantec GmbH Benzstr. 32, Herrenberg

Firma Semantec Firmensitz in Herrenberg bei Stuttgart Tochterfirma in Sofia / Bulgarien Insgesamt ca. 50 Mitarbeiter Themen Oracle Expert Services Anwendungsentwicklung Beratung

Oracle Text Context Option (7) interMedia Text (8i) Oracle Text (9i) Bekannte Anwendungen UltraSearch Collaboration Suite

Im Internet Oracle Ask Tom Metalink

Große Datenmengen Mehrere Millionen Dokumente / Datensätze Mehrere GigaBytes bis zu TeraBytes DatenVolumen Beispiel Oracle Intranet mehrere User, mehrere terrabyte Daten

Erfahrungswerte bei Dokumentenindizierung Größe Index ca. 10% vom Dokumentenvolumen Größe Volltext-Cache mit Kompression ca. 40% vom Dokumentenvolumen

Faktoren für Geschwindigkeit Serverauslastung durch andere Anwendungen Prozessorgeschwindigkeit Anzahl CPUs Hauptspeichergröße Zugriffsgeschwindigkeit auf Platten Netzwerkgeschwindigkeit Datenbank Performance Tuning

Schritte der Indizierung Crawling der Verzeichnisse und Unterverzeichnisse Vergleichen der Änderungen Datei über Netzwerk einlesen Prüfen ob Text-Filter anwendbar Datei Filtern (Plain Text oder HTML) Speichern der Volltextinformation Text-Token in den Index schreiben Index optimieren

Geschwindigkeiten Erstindizierung ca Dokumente pro Stunde Reindizierung hängt extrem von der Anzahl der geänderten, gelöschten oder hinzugefügten Dokumente ab Suche im Sekundenbereich auch bei sehr großen Datenmengen Textfragmente werden nachgeliefert

Oracle Text basierte Projekte Services Assekuranz Makler

Services Assekuranz Makler

DirectInfo Documents

Gemeinsame Kundenwünsche Einfache Browseroberfläche Online Administration Verwaltung der Zugriffsrechte Multi-Sprachen Fähigkeit Dublettensuche Suchmöglichkeiten wie Google und Windows-Explorer

Vorteile von Oracle Text Index in der Datenbank, SQL-Abfragen Weiterentwicklungen z.B. Oracle 10g Erweiterung des Indexes / Löschen von Einträgen Skalierbarkeit Betriebssystemunabhängigkeit 150 automatisch indizierbare Dokumenten-Formate Optimierung und Performance Tuning

Probleme mit Oracle Text kein eigener Crawler interner INSO Filter problematisch erneuter Netzzugriff auf Dateien nötig Indizierung lässt sich nicht unterbrechen keine automatische Erkennung von Duplikaten Indizieren mit mehreren CPUs nicht unterstützt keine Standard KnowledgeBase in deutsch belegter Speicher wird nicht immer freigegeben

Semantec Lösungen eigener Semantec File-Crawler (C und Java) eigener X-Filter: Filter Manager, Timeout-Manager externe Filter nutzbar (z.B. für PDF) eigener Volltext-Caching Mechanismus zeitversetztes Textfragment-Anzeigen Dokumenten-Gruppen Standard für Zugriffsrechte und User gruppen automatischer Import von Rechten und Gruppen Indexing in Chunks Erkennung von identischen Dokumenten

Ausblick Clustering Zusammenfassung von Dokumenten Statistiken für Administratoren und Benutzer Interpretation Services

Fragen und Antworten

Vielen Dank für Ihre Aufmerksamkeit. Martin Augst

DirectInfo Architektur Applikationen Daten- banken File Server File Server File Server Internet Oracle Server (Cluster) DirectInfo Anwender Administration Management