Information Retrieval mit Oracle Text Erfahrungsbericht

Referent Martin Augst Senior Project / Account Manager Semantec GmbH Benzstr. 32, Herrenberg

Firma Semantec Firmensitz in Herrenberg bei Stuttgart Tochterfirma in Sofia / Bulgarien Insgesamt ca. 50 Mitarbeiter Leistungsspektrum Oracle Expert Services Anwendungsentwicklung Beratung

Oracle Text im Einsatz Historie Context Option (7) interMedia Text (8i) Oracle Text (9i) Im Internet Oracle Ask Tom Semantec

Große Datenmengen Mehrere Millionen Dokumente / Datensätze Mehrere GigaBytes bis zu TeraBytes DatenVolumen Größe Index ca. 10%-30% vom Dokumentenvolumen Größe Volltext-Cache mit Kompression ca. 40%-60% vom Dokumentenvolumen

Performance-Faktoren Prozessorgeschwindigkeit Anzahl CPUs Hauptspeichergröße Zugriffsgeschwindigkeit auf Platten Serverauslastung durch andere Anwendungen Netzwerkgeschwindigkeit (Encryption, Firewall) Größe und Typ der Dokumente Datenbank Tuning

Performance Erfahrungswerte Erstindizierung ca Dokumente pro Stunde Reindizierung hängt extrem von der Anzahl der geänderten, gelöschten oder hinzugefügten Dokumente ab Suche im Sekundenbereich auch bei sehr großen Datenmengen

Oracle Text basierte Projekte Services Assekuranz Makler

Services Assekuranz Makler

DirectInfo Documents

Integration von DirectInfo in das DMS-System von IMAGE MASTER

Gemeinsame Kundenwünsche Einfache Browseroberfläche Online Administration Verwaltung der Zugriffsrechte Multi-Sprachen Fähigkeit Dublettensuche Suchmöglichkeiten wie Google und gleichzeitig Windows-Explorer

Vorteile von Oracle Text Index in der Datenbank, SQL-Abfragen Weiterentwicklungen z.B. Oracle 10g Erweiterung des Indexes / Löschen von Einträgen Skalierbarkeit Betriebssystemunabhängigkeit 150 automatisch indizierbare Dokumenten-Formate Optimierung und Performance Tuning

Probleme mit Oracle Text kein eigener Crawler interner INSO Filter problematisch erneuter Netzzugriff auf Dateien nötig Indizierung lässt sich nicht unterbrechen keine automatische Erkennung von Duplikaten Indizieren mit mehreren CPUs nicht unterstützt keine Standard KnowledgeBase in deutsch belegter CPU-Speicher wird nicht freigegeben

Semantec Lösungen eigener Semantec File-Crawler (C und Java) eigener X-Filter: Filter Manager, Timeout-Manager externe Filter nutzbar (z.B. für PDF) eigener Volltext-Caching Mechanismus zeitversetzte Textfragment-Anzeige Dokumenten-Gruppen Standard für Zugriffsrechte und User gruppen automatischer Import von Rechten und Gruppen Indexing in Chunks Erkennung von identischen Dokumenten

DirectInfo Documents Demo

Ausblick Kategorisierung Text-Zusammenfassung (Summarizer) Statistiken für Administratoren und Benutzer Interpretation of Results / Complex Ranking

Fragen und Antworten

Vielen Dank für Ihre Aufmerksamkeit. Martin Augst

DirectInfo Architektur Applikationen Daten- banken File Server File Server File Server Internet Oracle Server (Cluster) DirectInfo Anwender Administration Management