Was die Industrie braucht: Löser für Gleichungssysteme mit 100 Millionen Unbekannten. Professor Dr. Ulrich Trottenberg Fraunhofer Institut für Algorithmen und Wissenschaftliches Rechnen, Sankt Augustin DLR-Institut „Simulation und Softwaretechnik“ Mathematisches Institut, Universität zu Köln 19. August 2008

Überblick Aus der Arbeit des Fraunhofer-Instituts SCAI Multidisziplinäre Kopplung (Film) Kompression von Simulationsdaten (Film) Wozu braucht man schnelle Lösungsverfahren für lineare Gleichungssysteme? Wetter und Klima Mehrgitterprinzip Industrieanwendungen Fraunhofer und das Institut Zum Jahr der Mathematik

Überblick Aus der Arbeit des Fraunhofer-Instituts SCAI Multidisziplinäre Kopplung (Film) Kompression von Simulationsdaten (Film) Wozu braucht man schnelle Lösungsverfahren für lineare Gleichungssysteme? Wetter und Klima Mehrgitterprinzip Industrieanwendungen Fraunhofer und das Institut Zum Jahr der Mathematik

Algorithmen versus Hardware 1980 Computer 2000 2008 Poisson-artige Gleichung 1980 200.000 sec 50 sec Faktor 4.000 Algorithmen Faktor 20.000 2000 2008 10 sec 0,01 sec

Wozu braucht man schnelle lineare Löser?

Halbleiter-Bauelemente-Simulation Strömungsdynamik Öl&Gas- Reservoir- Simulation Halbleiter-Bauelemente-Simulation Struktur- Mechanik / Gieß-simulation Grundwasser- Simulation, Geophysik Elektrochemie Schaltungs-simulation, Elektromagnetische Verträglichkeit Halbleiter-Prozess- Simulation 6

Wozu braucht man schnelle lineare Löser? Wettervorhersage Euler-Gleichungen

Wozu braucht man schnelle lineare Löser? Richardson's Traum (1922)

Wozu braucht man schnelle lineare Löser? Die Qualität von Wettervorhersagen 1 0.9 0.8 0.7 1 Tag 4 Tage 1977 1979 1981 1983 1985 1987 1989 1991 1993 … 2008 Vektorrechner Parallelrechner Der parallele Sprung 120 km

Wozu braucht man schnelle lineare Löser? 120 km Auflösung 60 km Auflösung Sturm über Norwegen

Wozu braucht man schnelle lineare Löser? Das Wetter kann mit Hilfe der Euler-Gleichungen modelliert werden:

Wozu braucht man schnelle lineare Löser? Die Euler-Gleichungen können wir mit Ikosaeder-Gittern „diskretisieren“: Im derzeit vom Deutschen Wetterdienst operationell eingesetzten Modell betr¨agt die mittlere horizontale Maschenweite 40 km, was einer Gesamtzahl von 372490 Gitterpunkten entspricht. Ausgehend von diesem, die Erdkugel ¨uberdeckenden Gitter, werden dann in vertikaler Richtung 40 parallele Kugelschalen generiert mit der gleichen Anzahl an Gitterpunkten aber einer entsprechend gr¨oßeren Maschenweite. Die unterste Kugelschale liegt hierbei etwa 10 m ¨uber Grund und die oberste auf ca. 31 km. Insgesamt ergibt sich also ein Rechengitter mit fast 15 Millionen Gitterpunkten. In den Gitterpunkten werden dann N¨aherungswerte f¨ur die L¨osungsfunktionen berechnet. ¨Ahnlich wie der Raum durch ein Gitter, wird die Zeit in Zeitschritte unterteilt. Jeder Zeitschritt f¨ur eine 24 Stunden-Prognose betr¨agt hierbei 133.333 Sekunden, woraus sich demnach 648 Zeitschritte ergeben. In jedem Zeitschritt wird u.a. ein lineares Gleichungssystem mit 15 Millionen Unbekannten (f¨ur den Druck in den r¨aumlichen Gitterpunkten) gel¨ost. Um regelm¨aßig aktuelle Vorhersagen machen zu k¨onnen, m¨ussen deshalb extrem schnelle L¨osungsverfahren eingesetzt werden. Derzeit ben¨otigt eine 24 Stunden Vorhersage ca. 1000 Sekunden. 12

Wozu braucht man schnelle lineare Löser? Die Erde im Ikosaeder-Gitter“:

Wozu braucht man schnelle lineare Löser? Die nicht-linearen Euler-Gleichungen … … können wir auf solchen Gittern diskretisieren und linearisieren und erhalten damit lineare Gleichungssysteme! 14

Wozu braucht man schnelle lineare Löser? Zu lösen sind letztlich Heutzutage: Maschenweite von ca. 40 km ergibt ca. 400.000 Gitterpunkte. In der Höhe 40 Schichten. Insgesamt ca. 16 Millionen Gitterpunkte! in jedem Zeitschritt: lineare Gleichungssysteme mit ca. 16 Millionen Unbekannten! Ca. 6.500 Zeitschritte für 10-Tages-Wettervorhersage. 15

Wozu braucht man schnelle lineare Löser? Zu lösen sind letztlich… 2012: Verfeinerung des Gitters auf ca. 4 Millionen Gitterpunkte. In der Höhe 100 Schichten. Insgesamt ca. 400 Millionen Gitterpunkte! lineare Gleichungssysteme mit ca. 400 Millionen Unbekannten! 16

Wozu braucht man schnelle lineare Löser? Numerische Klimavorhersage Zeitskalen: Jahrzehnte statt 10 Tage Auflösung: ??? Rechenzeit: Monate (Un)genauigkeit: 2° - 5° C Unsicherheit bei globaler Erwärmung EUROPA im 600 km Gitter

Wozu braucht man schnelle lineare Löser? Motivation für unsere Arbeit: Partner erwarten von linearen Lösern, dass sie immer schneller werden und immer allgemeiner einsetzbar werden und einfach zu installieren und benutzen sind. Finde vernünftige Kompromisse: robuste, optimale Löser!

Bedeutung der Optimalität Rechenzeit pro Gitterpunkt ein „klassisches“ Verfahren 1.000 4.000 16.000 64.000 256.000 1.024.000 Anzahl der Gitterpunkte 19

Bedeutung der Optimalität Rechenzeit pro Gitterpunkt ein „klassisches“ Verfahren SAMG 1.000 4.000 16.000 64.000 256.000 1.024.000 Anzahl der Gitterpunkte 20

Wie machen wir das? Algebraische Mehrgitterverfahren! Automatische Erzeugung des gröberen „Gitters“ 21

Wie machen wir das? Algebraische Mehrgitterverfahren! 22

Wie machen wir das? Algebraische Mehrgitterverfahren! herkömmlicher Löser 23

Mehrgitterprinzip: Fehlerglättung durch klassische Verfahren x y ......

Halbleiter-Bauelemente-Simulation Strömungsdynamik Öl&Gas- Reservoir- Simulation Halbleiter-Bauelemente-Simulation Struktur- Mechanik / Gieß-simulation Grundwasser- Simulation, Geophysik Elektrochemie Schaltungs-simulation, Elektromagnetische Verträglichkeit Halbleiter-Prozess- Simulation 25

Kooperationspartner Strömungsmechanik, Elektrochemie DLR (D), VU Brussel, VKI, Elsyca (BE), CD-adapco (US), Fluent (US), …. - Öl- und Erdgasreservoir-Simulation U Stanford (US), Imperial College (UK), U Austin (US), StreamSim Technologies (US), V.I.P.S. (UK), SMT (US/AT), Schlumberger (UK), Chevron (US), ExxonMobil (US), ConocoPhillips (US), Statoil (N), Marathon Oil (US), SaudiAramco (Saudi Arabien), …. - Halbleiter-Prozess- und –Bauelemente-Simulation TU Wien (AT), ETH Zürich / ISE (CH), Synopsys (US), ..... Schaltungssimulation, Elektromagnetische Verträglichkeit MPI MIS (D), IBM (US), Sun (US), BMW (D), SimLab (D), NEC (D), .... Grundwasser-Simulation USGS (US), TU Freiberg (D), Wasy (D), SWS WHI (CN), …. Gießsimulation Magma (D), CoreTech (Taiwan), SIMPOE (Taiwan), .... 26

Einsatzgebiet: Strömungsmechanik DaimlerChrysler AG, CD-adapco (US) Sauber-Petronas, Fluent (US) Beispiel: E-Klasse-Modell mit ca. 2,23 Mio. Unbekannten Faktor 20 Gewinn: ca. 7 Minuten statt über 2 Stunden Rechenzeit 27

Einsatzgebiet: Ölreservoirsimulation SMT (US/AT) Beispiel Optimierung von Bohrlöchern: „Black-Oil“-Modell mit ca. 1,1 Mio. Unbekannten Faktor 15 Gewinn: ca. 8 statt 120 Stunden Rechenzeit

Einsatzgebiet: Gießsimulation Aluminium-Achsschenkel Brems-scheibenguss Beispiele: Gesamtsimulation bis zu 10 mal schneller! Microporosity formation: 4-5 times faster Microporosity_wheelknuckle.tif: The figure shows the simulated microporosity distribution in an aluminium steering knuckle calculated based on the pressures, velocities and hydrogen concentrations during solidification. Use of SAMG led to a decrease in simulation times by a factor 2 to 5 Sand core production: approx. 10 times faster SandFraction_0101.tif: The figure shows the simulated sand fraction distribution during production of a sand core for a brake disc casting. Use of SAMG led to a reduction of simulation time by up to a factor of 10. Injection molding: 5-10 times faster Residual stresses and distorsion: 2-5 times faster 29

Einsatzgebiet: Elektrochemie (Galvanotechnik) Elsyca (BE) Beispiel: Verchromung: Verbrennungszylinder mit ca. 1,3 Mio. Unbekannten Gesamtsimulation 5 mal schneller!

Einsatzgebiet: Schaltungssimulation / EMV Simlab und BMW (D) Beispiele: Auto-Kabelstränge, Printed Circuit Boards Gesamtsimulation bis zu 100 mal schneller!

Einsatzgebiet: Elektrochemie (Ätzen) Elsyca (BE) Beispiel: Feinstruktur-Ätzen: Diesel-Einspritzventil mit ca. 0,8 Mio. Unbekannten Standardlöser divergieren (aufgrund extrem verzerrter Gitter)!

Überblick Aus der Arbeit des Fraunhofer-Instituts SCAI Multidisziplinäre Kopplung (Film) Kompression von Simulationsdaten (Film) Wozu braucht man schnelle Lösungsverfahren für lineare Gleichungssysteme? Wetter und Klima Mehrgitterprinzip Industrieanwendungen Fraunhofer und das Institut Zum Jahr der Mathematik

Die Fraunhofer* - Gesellschaft Gegründet 1949 Rechtsform: eingetragener Verein, gemeinnützig Trägerin der Angewandten Forschung in Deutschland 56 Forschungsinstitute 13.000 Beschäftigte Jährliches Forschungsvolumen rund 1,3 Mrd. € Finanzierungsmodell: ~1/3 Industrieerträge ~1/3 andere Drittmittel ~1/3 Grundfinanzierung *Joseph von Fraunhofer (1787 – 1826 ) Wissenschaftler, Erfinder und Unternehmer

Das Fraunhofer-Institutszentrum Schloss Birlinghoven (IZB) eines der größten Zentren für angewandte Mathematik und Informatik in Deutschland rund 800 Beschäftigte, davon 500 Wissenschaftlerinnen und Wissenschaftler und rund 200 Studenten und Auszubildende drei Institute und zwei Forschungseinheiten Institute Algorithmen und Wissenschaftliches Rechnen – SCAI (Prof. U. Trottenberg) Intelligente Analyse- und Informationssysteme – IAIS (Prof. S. Wrobel, Prof. T. Christaller) Angewandte Informationstechnik – FIT (Prof. M. Jarke) Außenstellen anderer Institute (SIT, FOKUS) 35

Forschungspartnerschaften in der Region Institutsleiter haben Lehrstühle in: RWTH Aachen – Prof. Jarke (FIT) Uni Bonn – Prof. Wrobel (IAIS) Uni Köln – Prof. Trottenberg (SCAI) 36

Fraunhofer-Institut für Algorithmen und Wissenschaftliches Rechnen – SCAI Computersimulationen in der Produkt- und Verfahrensentwicklung Optimierung in Produktion, Logistik und Planung Informationsextraktion aus großen chemischen und biologischen Datenbeständen ca. 90 Mitarbeiter ca. 40 Studenten, zzgl. 10 Doktoranden Mathematiker, Informatiker, Physiker, Ingenieure, Chemiker, Biologen Jahresbudget: ca. 9 Mio. Euro Wirtschaftserlöse ca. 40% Drittmittel insgesamt ca. 70% Universität zu Köln – Lehrstuhl Angewandte Mathematik / Wissenschaftliches Rechnen DLR-SISTEC – Simulations- und Softwaretechnik Bonn Aachen International Center for Information Technology - Life Science Informatik

Fraunhofer-Institut für Algorithmen und Wissenschaftliches Rechnen SCAI Themen/ Arbeitsbereiche Numerische Simulation Optimierung Bioinformatik Synergie-Effekt der Methoden Numerik Informatik Computing Daten Kernkompe-tenzen Computational Engineering Schnelle Löser Data und Text Mining Cutting/ Packing Grid Computing … Zielgruppen/ Branchen Engineering Automobil Textil Pharma, Bio Schiffbau Software-häuser …

Simulationsanwendungen (SIAN) Computational Engineering Gekoppelte Simulationen High Performance Computing Grid Computing Computational Chemical Engineering

Numerische Software (NUSO) Schnelle Lösertechnologie Datenkompression Parameteroptimierung Analyse von Crash-Simulationen Grid Computing (SIMDAT)

Joseph-von-Fraunhofer-Preis: Große Daten ganz klein Rodrigo Iza-Teran, Clemens-August Thole, Prof. Dr. Rudolph Lorentz (v.l.n.r.) Joseph-von-Fraunhofer-Preis Große Daten ganz klein Mehr Simulation heißt auch mehr Speicherbedarf. Dank einer neuen Komprimierungs-Software ist das für Crash- und Wettersimulationen kein Problem: Denn die Datenberge werden auf bis ein Zehntel ihrer ursprünglichen Größe geschrumpft. »Lassen Sie uns über das Wetter sprechen«, sagt Clemens-August Thole vom Fraunhofer-Institut für Algorithmen und Wissenschaftliches Rechnen SCAI in St. Augustin: »Ab 2008 wird beim Deutschen Wetterdienst die Prognose für die kommenden Tage etwa 20 Mal vorausberechnet. Da entstehen im Jahr etwa 2,5 Petabyte an Daten.« Ein Petabyte entspricht etwa 2 000 Festplatten mit 500 Gigabyte Speicherplatz. Um diese Menge klein zu kriegen, hat Dr. Thole mit seinem Team eine Software entwickelt, die Wetterdaten im Grib-Format um den Faktor 2,5 reduzieren. »Für die Simulationen wird Deutschland mit einen Netz von Gitterpunkten überzogen«, so Prof. Rudolph Lorentz. »Die Simulationsergebnisse an benachbarten Punkten sind nicht unabhängig voneinander. So reicht es, wenn wir die Werte an einem Gitterpunkt gut vorhersagen können, um die Datengröße wesentlich zu reduzieren.« Auch aus der Automobilindustrie sind Simulationen nicht mehr wegzudenken. Allerdings benötigt bereits ein virtueller Crash mehrere Gigabyte Speicherplatz. »Pro Tag fährt so ein Modell etwa 100 bis 150 Mal im Rechner gegen die Wand«, sagt Rodrigo Iza-Teran. Da kommen schnell Daten von 100 Terabyte und mehr zusammen. Als ersten Schritt für die Kompression geben die Entwicklungs-Ingenieure die Genauigkeit der gespeicherten Daten vor, zum Beispiel ein Millimeter für Fahrzeugcrashs. Bei diesem Quantisieren wird bewusst ein Datenverlust in Kauf genommen. Alle weiteren Komprimierungsschritte sind verlustfrei, das heißt die Daten lassen sich wieder 1:1 herstellen. Je nach Anwenderbedarf können die Wissenschaftler von SCAI eine Kompression um den Faktor 10, 7 oder 5 anbieten. »Der Ansatz ähnelt der Videocodierung«, sagt Thole. »Ein Trick besteht darin, zu ermitteln welche Bauteile sich bewegen ohne sich zu deformieren. Ein anderer ist, die sich verändernden Inhalte möglichst gut vorherzusagen.« Fast alle deutschen Automobilhersteller setzen die Software ein. Grund: Sie sparen wertvollen Speicherplatz und der Datenaustausch läuft reibungslos. Zudem lassen sich komprimierte Daten einfacher und schneller visualisieren. Die Dekompression ist mittlerweile in viele Postprocessoren integriert, so dass sich die Files ohne einen Zwischenschritt zum Entzippen öffnen. Joseph-von-Fraunhofer-Preis: Große Daten ganz klein 41

Optimierung (OPT) Cutting und Packing (2D) Packing mit komplexen Objekten (3D) Maschinenbelegung Demo: Automatische Schnittbildgenerierung Originaltext: Auswahl von Standard-Software-Paketen Individuelle Anpassung der Software an Kundenbedürfnisse Neuentwicklung von Optimierungssoftware für schwierige Probleme in industriellen und technischen Anwendungen Problemanalyse und Entwicklung von Lösungskonzepten Wartung, Pflege und Weiterentwicklung

VOBA-Innovationspreis 2007 Rudolf Müller (Vorstandsvorsitzender der Volksbank Bonn Rhein-Sieg), Lydia Franck (Preisträgerin), Prof. Dr. Klaus Borchard und NRW-Innovationsminister Prof. Dr. Andreas Pinkwart Joseph-von-Fraunhofer-Preis Große Daten ganz klein Mehr Simulation heißt auch mehr Speicherbedarf. Dank einer neuen Komprimierungs-Software ist das für Crash- und Wettersimulationen kein Problem: Denn die Datenberge werden auf bis ein Zehntel ihrer ursprünglichen Größe geschrumpft. »Lassen Sie uns über das Wetter sprechen«, sagt Clemens-August Thole vom Fraunhofer-Institut für Algorithmen und Wissenschaftliches Rechnen SCAI in St. Augustin: »Ab 2008 wird beim Deutschen Wetterdienst die Prognose für die kommenden Tage etwa 20 Mal vorausberechnet. Da entstehen im Jahr etwa 2,5 Petabyte an Daten.« Ein Petabyte entspricht etwa 2 000 Festplatten mit 500 Gigabyte Speicherplatz. Um diese Menge klein zu kriegen, hat Dr. Thole mit seinem Team eine Software entwickelt, die Wetterdaten im Grib-Format um den Faktor 2,5 reduzieren. »Für die Simulationen wird Deutschland mit einen Netz von Gitterpunkten überzogen«, so Prof. Rudolph Lorentz. »Die Simulationsergebnisse an benachbarten Punkten sind nicht unabhängig voneinander. So reicht es, wenn wir die Werte an einem Gitterpunkt gut vorhersagen können, um die Datengröße wesentlich zu reduzieren.« Auch aus der Automobilindustrie sind Simulationen nicht mehr wegzudenken. Allerdings benötigt bereits ein virtueller Crash mehrere Gigabyte Speicherplatz. »Pro Tag fährt so ein Modell etwa 100 bis 150 Mal im Rechner gegen die Wand«, sagt Rodrigo Iza-Teran. Da kommen schnell Daten von 100 Terabyte und mehr zusammen. Als ersten Schritt für die Kompression geben die Entwicklungs-Ingenieure die Genauigkeit der gespeicherten Daten vor, zum Beispiel ein Millimeter für Fahrzeugcrashs. Bei diesem Quantisieren wird bewusst ein Datenverlust in Kauf genommen. Alle weiteren Komprimierungsschritte sind verlustfrei, das heißt die Daten lassen sich wieder 1:1 herstellen. Je nach Anwenderbedarf können die Wissenschaftler von SCAI eine Kompression um den Faktor 10, 7 oder 5 anbieten. »Der Ansatz ähnelt der Videocodierung«, sagt Thole. »Ein Trick besteht darin, zu ermitteln welche Bauteile sich bewegen ohne sich zu deformieren. Ein anderer ist, die sich verändernden Inhalte möglichst gut vorherzusagen.« Fast alle deutschen Automobilhersteller setzen die Software ein. Grund: Sie sparen wertvollen Speicherplatz und der Datenaustausch läuft reibungslos. Zudem lassen sich komprimierte Daten einfacher und schneller visualisieren. Die Dekompression ist mittlerweile in viele Postprocessoren integriert, so dass sich die Files ohne einen Zwischenschritt zum Entzippen öffnen. VOBA-Innovationspreis 2007 43

Bioinformatik (BIO) Informationsextraktion / Semantische Textanalyse Angewandte Chemoinformatik Life Sciences Grid Computing

Eröffnung der Außenstelle an der Universität zu Köln am 07.09.07 Die neuen Räume der Abteilung "Numerische Software„ auf dem Universitätsgelände in der Gyrhofstraße 8b.

Besuch des Bundespräsidenten am 29. 05 Besuch des Bundespräsidenten am 29.05.08 bei SCAI zum „Jahr der Mathematik 2008“

Überblick Aus der Arbeit des Fraunhofer-Instituts SCAI Multidisziplinäre Kopplung (Film) Kompression von Simulationsdaten (Film) Wozu braucht man schnelle Lösungsverfahren für lineare Gleichungssysteme? Wetter und Klima Mehrgitterprinzip Industrieanwendungen Fraunhofer und das Institut Zum Jahr der Mathematik

Das Jahr der Mathematik 2008 Bild der Mathematik in der Öffentlichkeit: … schwierig, weltabgewandt, unsympathisch…* *„Viele Intellektuelle finden es schick, sich als Mathenieten zu outen“ (Spiegel 50/2004) MINT-Nachwuchsmangel Die Angewandte Mathematik hat sich in den letzten 50 Jahren fundamental verändert: Durchdringung aller naturwissenschaftlichen und technischen, zunehmend auch der wirtschaftswissenschaftlichen Disziplinen Grundlage jeder technischen Entwicklung (Computersimulation) Revolution durch Rechnerentwicklung: Algorithmen statt Formeln Diese Entwicklung wird in der Schule kaum wahrgenommen.

Das Jahr der Mathematik 2008 Rechnerbezug Anwendung Mathematische Substanz Algorithmen Förderinitiative der Telekom-Stiftung „Faszination Algorithmen in der Schule“ Erarbeitung eines mathematischen Fraunhofer-Förderprogramms mit Industriepartnern Bedeutung der Angewandten Mathematik für Wirtschaft und Gesellschaft => Kongress „Mathematik in der Praxis“ im Frühjahr 2009 (Fraunhofer SCAI + ITWM und BMBF) Adressaten: Industrie, Allgemeine Öffentlichkeit, Schule Fraunhofer-Talent-School: Schwerpunkt Mathematik

Was die Industrie braucht: Löser für Gleichungssysteme mit 100 Millionen Unbekannten. Professor Dr. Ulrich Trottenberg Fraunhofer Institut für Algorithmen und Wissenschaftliches Rechnen, Sankt Augustin DLR-Institut „Simulation und Softwaretechnik“ Mathematisches Institut, Universität zu Köln 19. August 2008