Die Computing Center Software des PC² CCS Die Computing Center Software des PC² Seminarvortrag von Mathias Biere Projektgruppe SAP R/3 auf Linux Cluster 17.11.1999

Inhalt Einleitung Architektur Eine Insel ! Resource & Service Description Language Bedienung des Systems Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

CCS: Computing Center Software Historischer Abriß Einleitung CCS: Computing Center Software Eigenentwicklung des PC² mit Fördermitteln des Bundes und der EU Beginn des Projekts 1992 erster Einsatz auf 1024-Prozessor Maschine GCel-1024 Verwaltung des gesamten Rechnerparks, nur Single Site Anwendungen Einführung der Beschreibungssprache RSD (resource and service description) Unterstützung von Multi Site-Applikationen neue Konzepte in aktueller Version 4: CCS Islands, Center Resource Manager und Center Information Server Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Was bietet CCS? Einleitung Resource-Management-System für parallele Hochleistungsrechner Werkzeug zur Verwaltung des Rechenzentrums Scheduling Zur Laufzeit wechselbare Scheduling-Module Deadlines: System garantiert termingerechte Ausführung Mapping Belegung von Partitionen mit optimalen Kommunikations- eigenschaften Exklusive Vergabe von Partitionen oder time sharing mit Begrenzung der maximalen Last pro Knoten Autorisierung, Abrechnung, Maschinenstatus Detaillierte Protokolle und Statistiken Aktuelle Informationen zu jedem Knoten Rechtevergabe auf Benutzer- und Projektebene Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Was bietet CCS? Einleitung Benutzerschnittstelle zu einzelnen Parallelrechnern Abstraktion von Eigenschaften einzelner Maschinen (Prozessor, Betriebssystem ...) Ausgangspunkt für Metacomputing-Anwendungen Login in Unix-Umgebung, interaktiver und Batch-Betrieb Wiederaufnahme von Verbindungen, Pufferung von Ausgaben Einheitliche Benutzerschnittstellen auf allen Maschinen, Operator Shell Schnittstelle zu anderen Managementsystemen Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

CCS Einordnung von CCS Einleitung HPC Management NQS, NQE, PBS MACS LoadLeveler Basierend auf Queuing Systems Workstation-Cluster Management Codine Condor LSF ... Verteilung sequentieller Jobs CCS computing center software Metacomputer Management z.B. Globus noch eine höhere Stufe Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Architektur Einleitung Architektur Eine Insel ! Resource & Service Description Language Bedienung des Systems Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Architektur (1) Architektur In ANSI C geschrieben (ca. 180.000 Zeilen Code) POSIX konform Runtime Environment Layer (RTE) mit Schnittstellen für Signalbehand- lung, Terminalsteuerung, Dateioperationen ... Einzelne Ressourcen liegen in gemeinsamer NFS/NIS domain, können aber geographisch verteilt sein Auf den einzelnen Maschinen laufen daemons, die im Fehlerfall automatisch beendet und neu gestartet werden Kommunikation zwischen einzelnen Modulen mittels einheitlicher Beschreibungssprache RSD Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Architektur (2) Architektur CIS : Center Information Server CRM : Center Resource Manager information on services passive active RSD data Link to other Resource Management Systems info Island GCel-1024 hpcLine CC Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Architektur (3) Architektur Jede Maschine ist als eigenständige Insel - CCS Island - gekapselt. Das Management ist vollkommen unabhängig von den anderen Inseln. Vorteile dieses Konzepts: Skalierbarkeit Zuverlässigkeit leichtere Wiederherstellung nach Fehlern Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Architektur (4) Architektur CRM : Center Resource Manager Der Center Resource Manager ist als von den Inseln unabhängige Instanz für Multsite-Applikationen zuständig. Er bestimmt die nötigen Ressourcen (Rechner) und führt die Jobs aus. CIS : Center Information Server Der Center Information Server hat eine passive Rolle, so daß sein Ausfall keine Konsequenzen für den Rest des Systems hat - ein Neustart reicht. Er stellt aktuelle Informationen zu Rechnern, Netzwerkzustand usw. zur Verfügung. Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Eine Insel ! Einleitung Architektur Eine Insel ! Resource & Service Description Language Bedienung des Systems Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Eine Insel ! Operator Shell nennen Eine Insel ! Access Manager User Interfaces AM QM MM IM Parsytec GC/PP Access Manager Autorisierung und Abrechnung Queue Manager Scheduling Machine Manager Hardware Island Manager Name services und Überwachung Operator Shell nennen Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Hierarchie der Dämonen (1) Eine Insel ! Der Access Manager Dämon analysiert Benutzeraufträge und gibt den Auftrag mit Privilegien an den Queue Manager weiter CCS unterstützt folgende Privilegien: Zugangsrechte pro Maschine erlaubter Zeitraum (Tag, Nacht, Wochenende ...) maximale Anzahl gleichzeitiger Ressourcen Rechenzeit in Knotensekunden Art des Zugangs: interaktiv, Batch, Reservierung AM QM MM IM Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Hierarchie der Dämonen (2) Eine Insel ! Der Queue Manager Dämon bestimmt das Scheduling. Er kann zur Laufzeit gewechselt werden, wenn eine andere Strategie erwünscht ist; normalerweise wird verbessertes first come first serve benutzt. Es werden sowohl Aufträge zu festen als auch zu variablen Zeiten unterstützt. Batch- und interaktive Jobs werden in der selben Warteschlange geführt. Indem ein Job mit ‚Deadline‘ akzeptiert wird, wird vom System die Erledigung zum angegebenen Zeitpunkt garantiert. Strategie dafür ist: Zum ersten günstigen oder letzten möglichen Zeitpunkt. AM QM MM IM Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Hierarchie der Dämonen (3) Eine Insel ! Der Island Manager Dämon verfügt über eine vollständige Sicht auf die Insel und überwacht die anderen Dämonen. Er kann sie bei Fehlern beenden und neu starten. Außerdem werden Name Services zur Verfügung gestellt: Adreßumsetzung zwischen physischer Netzwerkadresse und symbolischen Namen <center, island,process>. Damit kann der IM andere Dämonen auf andere Knoten / Hosts verlagern. Der IM ist so unabhängig wie möglich von anderen Dämonen. AM QM MM IM Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Hierarchie der Dämonen (4) Eine Insel ! Der Machine Manager Dämon ist für alle maschinenspezifischen Aufgaben nötig. Es können zwei Bereiche unterschieden werden: AM QM MM IM Maschinen- Verwaltung Programm- Ausführung Zweiteilung, weil Programmausführung von # Knoten abhängt Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

. . . Der Machine Manager (1) Eine Insel ! NSM MSM CM . . . EM Dispatcher MV Maschinen-Verwaltung Programm- Ausführung HPC Hardware Der Mapping Verifier MV prüft das vom QM bestimmte Mapping anhand seiner Kenntnis der Maschine und macht ggf. Gegenvorschlag. Der Configuration Manager CM bootet und beendet die Betriebssystemsoftware und erzeugt Partitionen. Der Master Session Manager MSM bildet die Schnittstelle zur Ausführungsschicht, erzeugt die Session und liefert Information über den Zustand des Jobs. Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

. . . Der Machine Manager (2) Andere Module per RPC gestartet Eine Insel ! NSM MSM CM . . . EM Dispatcher MV Maschinen-Verwaltung Programm- Ausführung HPC Hardware Auf jedem allozierten Knoten läuft ein Node Session Manager NSM als Entsprechung des MSM. Auf Befehl des MSM werden via fork ein - oder im Time Sharing Betrieb - mehrere Execution Manager erzeugt. Ferner werden Auslastungsdaten des Knotens zur Verfügung gestellt. Der Execution Manager EM kapselt ein laufendes Anwendungsprogramm mit seiner Umgebung (UID, Environment-Variablen ...). Dabei werden auch Standard-I/O-Streams gepuffert (stdout, stderr, stdin). Andere Module per RPC gestartet Pufferung, um beim Wiederverbinden einer Session alles nachzuschicken. Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Resource & Service Description Einleitung Architektur Eine Insel ! Resource & Service Description Language Bedienung des Systems Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Resource & Service Description (1) RSD Alle CCS-Module bauen auf der Resource and Service Description Language auf. RSD wird eingesetzt auf Benutzerebene, um erforderliche Ressourcen zu spezifizieren auf Administratorebene, um die vorhandenen Strukturen zu darzustellen auf Centerebene vom CCS, bei der Kommunikation zwischen Modulen, bei der Verteilung der Resourcen und zur Datenhaltung im CIS Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Resource & Service Description (2) RSD 3 Arten des Gebrauchs: Tool RSD-Quelltext API Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

RSD Beispiel (1) RSD Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

RSD Beispiel (2) RSD Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Eigenschaften RSD Einfaches ist leicht zu formulieren Unterstützung komplexer Strukturen Unterstützung dynamischer Elemente Objektorientierte, portable Darstellung Rekursion graph-strukturierte Definitionen beliebige Attribute für Komponenten Variablen z. B. für CPU load ... RSD-Objekt kann via eigenes Protokoll oder CORBA / COM+ versandt werden Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Bedienung des Systems Einleitung Architektur Eine Insel ! Resource & Service Description Language Bedienung des Systems Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Kommandozeilenbefehle Bedienung Allokieren einer Ressource: ccsalloc ccsalloc -m gcel -n 64 -t 2h ccsalloc -m psc -n 16 scampi -- myprog Starten eines Job in reservierter Ressource: ccsrun ccsrun 7 pvm myprog Abbrechen eines Jobs und Freigabe der Ressource: ccskill ccskill 7 Verlorene Session wiederverbinden: ccsbind Informationen zu Jobstatus, Scheduling ... : ccsinfo Zusätzliche Zeit, Knoten anfordern: ccsaddres Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

ccsSchedule Bedienung Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

CCS View Bedienung Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

CCS Cluster Monitor Bedienung Projektgruppe SAP R/3 auf Linux Cluster 17.11.99

Operator Shell Verbinden zu einzelnen daemons Bedienung Projektgruppe SAP R/3 auf Linux Cluster 17.11.99