TANDEM-X: Zwei gegen den SAM-FS-Cache Stephan Schropp DLR Oberpfaffenhofen

Folie 2> Stephan Schropp Video TDM-X

Folie 3> Stephan Schropp Systemübersicht Archiv Server SAM-FS Cache CoSSC Prozessor DEM Prozessor 10Gb/s Transfer Netz 4 x 8 Gb/s SAN 8 x 4 Gb/s SAN Tape Library

Folie 4> Stephan Schropp Ursprünglichen Konfiguration der Beschafft im Jahr ~ 50 TB auf 15K FC -~ 36 TB auf 7,2K SATA -Je Tray: raid6 256KB 16 Disks

Folie 5> Stephan Schropp Datenfluß Phase 1 Archiv Server SAM-FS Cache CoSSC Prozessor DEM Prozessor 10Gb/s Transfer Netz Cossc + RawDem ~1,5TB/d 20MB/s CoSSC ~1TB/d 12MB/s

Folie 6> Stephan Schropp Datenfluß Phase 1 Archiv Server SAM-FS Cache CoSSC Prozessor DEM Prozessor 10Gb/s Transfer Netz Cossc ~1TB/d 12MB/s CoSSC ~1TB/d 12MB/s Bandkopie ~1TB/d 12MB/s Bandkopie 1+2 ~2TB/d 24MB/s Summen Datenrate für CoSSC LUN ~3TB/d 36MB/s

Bandkopie MB/s Folie 7> Stephan Schropp Datenfluß Phase 1 Archiv Server SAM-FS Cache CoSSC Prozessor DEM Prozessor 10Gb/s Transfer Netz Cossc ~1TB/d 36MB/s CoSSC 36MB/s Summen Datenrate für CoSSC Lun ~82MB/s

Bandkopie MB/s Folie 8> Stephan Schropp Datenfluß Phase 1 Archiv Server SAM-FS Cache CoSSC Prozessor DEM Prozessor 10Gb/s Transfer Netz Cossc ~2 - 4TB/d Cossc MB/s Summen Datenrate für CoSSC Lun bis zu 236MB/s

Folie 9> Stephan Schropp Datenfluß Phase 2 Aufnahme-Kachel aus Phase1 Aufnahme-Kachel aus Phase2

Bandkopie MB/s Folie 10> Stephan Schropp Datenfluß Phase 2 Archiv Server SAM-FS Cache CoSSC Prozessor DEM Prozessor 10Gb/s Transfer Netz Cossc ~1TB/d 36MB/s CoSSC + old CossCs 126 MB/s Summen Datenrate für CoSSC Lun ~262MB/s Staging 90MB/s Old Cosscs ~2,5TB/d 90MB/s

Folie 11> Stephan Schropp Verbesserungsmöglichkeiten -Kleinere LUNs: LSI empfiehlt 4 + 1, 4 + 2, oder diese sind schneller, da von der HW besser unterstützt. Praktische Tests zeigten, dass selbst ein Raid5 die gleiche Performance ( ~ 200 MB/s ) erreichen kann, wie die bestehenden Raids. Durch Striping über diese kleineren LUNs steigt dann die Gesamtperformance.

Folie 12> Stephan Schropp Verbesserungsmöglichkeiten -Kleinere LUNs -Streifen zur Verteilung über alle Backend-Channels

Folie 13> Stephan Schropp Verbesserungsmöglichkeiten -Kleinere LUNs -Streifen zur Verteilung über alle Backend-Channels -Streifen an den zugehörigen Controller binden weniger Verkehr über Controller Backplane

Folie 14> Stephan Schropp Verbesserungsmöglichkeiten -Kleinere LUNs -Streifen zur Verteilung über alle Backend-Channels -Streifen an den zugehörigen Controller binden -Angepasste DAU Sizes Full Stripe Writes

Folie 15> Stephan Schropp Verbesserungsmöglichkeiten -Unangepasste DAU Sizes Alte Raid6 (14 + 2) Konfiguration mit std. SAM-FS DAU 64k IO Statistics: Small Small Large Large Cache Reads Writes Reads Writes Total Hits Requests Blocks Avg Blocks IO Pct 9.38% 90.61% 0.00% 0.00% % 4.71% IOs Stripes /IO Clusters /IO Reads Writes Write Full Partial RMW No Parity RMW2 FSWT Algorithms

Folie 16> Stephan Schropp Verbesserungsmöglichkeiten -Angepasste DAU Sizes Full Stripe Writes neues Raid5 ( ) mit 128 KB Segment Size und QFS DAU 640K IO Statistics: Small Small Large Large Cache Reads Writes Reads Writes Total Hits Requests Blocks Avg Blocks IO Pct 4.63% 95.36% 0.00% 0.00% % 0.04% IOs Stripes /IO Clusters /IO Reads Writes Write Full Partial RMW No Parity RMW2 FSWT Algorithms

Folie 17> Stephan Schropp Aktuelle Konfiguration Jeder Streifen ist ein Raid5 mit jeweils FC Platten -einer Segment Size von 128KB -einer Kapazität von ~2TB -einem maximal Durchsatz von ~ 220MB/s CoSSC Filesystem (grün): hat eine Kapazität von ~16TB kann max 1,6 GB/s durchsetzten RawDEM Filesystem (hellblau): hat eine Kapazität von ~8TB kann max 0,8 GB/s durchsetzten

Folie 18> Stephan Schropp Resultate Auslastung und Durchsatz alte CoSSC LUN (14+2) 195MB/s + 64MB/s = 259 MB/s

Folie 19> Stephan Schropp Resultate Auslastung und Durchsatz eines neuen CoSSC LUNs (5+1) 27MB/s + 18MB/s = 45 MB/s

Folie 20> Stephan Schropp Resultate Auslastung und Durchsatz eines neuen CoSSC LUNs (5+1) ( 27MB/s + 18MB/s ) * 8 = 360 MB/s

Folie 21> Stephan Schropp Weg zur aktuellen Konfiguration

Folie 22> Stephan Schropp Weg zur aktuellen Konfiguration

Folie 23> Stephan Schropp Weg zur aktuellen Konfiguration

Folie 24> Stephan Schropp Resultate -Das StorageTek 6780 kann mit den beschriebenen Maßnahmen mindestens 2,6 GB/s durchsetzten (gemessen über 500GB Daten mit 2 Servern) -Die Geschwindgkeit ist nun ausreichend hoch für das TANDEM-X Projekt -Die Maßnamen mit dem höchsten Leistungssteigerungen waren: -viele kleine LUNs -angepasste DAUs

Folie 25> Stephan Schropp Danke, Ihr Stephan Schropp TANDEM-X: Zwei zusammen mit dem SAM-FS-Cache