Der Hochleistungsrechner und sein Gehäuse – Daten und Fakten

Der Hochleistungsrechner und sein Gehäuse – Daten und Fakten

Spitzenforschung braucht große Rechnerkapazitäten, die flexibel und vielseitig eingesetzt werden können. Auf dem Campus Lichtwiese der TU Darmstadt ist am 05. Juni 2013 der neue Lichtenberg-Hochleistungsrechner eingeweiht worden.

Gebäude für den neuen Hochleistungsrechner der TU Darmstadt. Bild: Jan Ehlers
Gebäude für den neuen Hochleistungsrechner der TU Darmstadt auf dem Campus Lichtwiese. Bild: Jan Ehlers

Bauherr: Der Präsident der Technischen Universität Darmstadt

Projektleitung: TU Darmstadt – Dezernat V – Bau und Immobilien

Nutzer: TU Darmstadt – Hochschulrechenzentrum

Architekt: Schnabel AG, Berlin; IPF Engineering GmbH, Bad Homburg

Projektablauf: Bedarfsmeldung Februar 2009
Baubeginn April 2011
Beginn Rechneraufstellung Januar 2013
Baufertigstellung Juni 2013

Baukosten: 7,0 Mio. Euro (davon 3,5 Mio. Euro Eigenfinanzierungsanteil der TU Darmstadt)

Rechner: 15 Mio. Euro (zur Hälfte aus Bundes- und Landesmitteln)

Größe: 384 m² Hauptnutzfläche, technische Funktionsfläche 556 m², 1.270 m² Brutto-Grundfläche, 6.217 m³ Bruttorauminhalt

Im Gebäude untergebracht: Serverraum für den Hochleistungsrechner, Serverraum für die bisher dezentral aufgestellten Institutscluster sowie die restliche Kühl- und Energie-Infrastruktur

Klimatechnik: Dank der iDataplex-Rechnergehäuse-Architektur kann eine energieeffiziente Klimatechnik eingesetzt werden, die mit verlustarmer Wasserkühlung arbeitet. Die Gebäudetechnik erlaubt es, weitgehend mit freier Kühlung (Kühlung ohne Kältemaschine) zu arbeiten.

Energieverbrauch: geschätzter Leistungsverbrauch insgesamt maximal 0,65 MW, mit installierter 2. Rechnerstufe im Jahr 2014.

Fertigstellung des Hochleistungsrechners: Phase 1: Juni 2013; Phase 2: Dezember 2014

Hersteller: IBM

Neuer Hochleistungsrechner der TU Darmstadt. Bild: Jan Ehlers
Blick in den neuen Lichtenberg-Hochleistungsrechner. Bild: Jan Ehlers

Ausstattung des Hochleistungsrechners

Rechenleistung (gesamt):

über 1200 TFlops, davon 23 Prozent durch Akzeleratoren

Rechenknoten:

  • für Anwendungen mit Message Passing Interface (MPI), der heute gängigsten Art der Programm-Parallelisierung. Jeder Knoten ist mit zwei Prozessoren ausgestattet, die wiederum je acht Rechenkerne und 32 Gigabyte Hauptspeicher enthalten.
    Juni 2013: über 700 Rechenknoten
    Dezember 2014: zusätzlich ca. 530 Rechenknoten
    Einsatzbeispiel: Simulations-Anwendungen, die viel Rechenleistung (viele hundert bis tausend Rechenkerne) benötigen.
  • für Aufgaben, die viel Hauptspeicher benötigen und auf diesen schnell zugreifen müssen. Jeder Knoten verfügt über acht Prozessoren mit je acht Kernen und insgesamt 1024 Gigabyte Hauptspeicher.
    Juni 2013: vier Rechenknoten
    Dezember 2014: zusätzlich vier Rechenknoten
    Einsatzbeispiel: Anwendungen, deren Lastprofil stark dynamisch und nicht vorhersehbar ist.
  • für Anwendungen, die die Architektur von Rechenbeschleunigern nutzen. Jeder Knoten enthält zwei Prozessoren und zwei Beschleuniger. 44 Knoten haben Beschleuniger der Art Nivida GPU, 20 Knoten haben Beschleuniger der Art Intel Xeon Phi
    Juni 2013: 64 Rechenknoten
    Dezember 2014: zusätzlich ca. 40 Rechenknoten
    Einsatzbeispiel: Spezielle Anwendungen mit hohem Anteil homogener Berechnungen, etwa aus Biologie und Chemie

Weit über 1000 Festplatten:

  • Schnelles paralleles Dateisystem: 768 Terabyte Festplattenspeicher mit einer Lese- und Schreibgeschwindigkeit von 20 Gigabyte pro Sekunde
    Anwendung: Zwischenspeicher während Berechnungen und Simulationen
  • Personalisiertes Dateisystem: 500 Terabyte Speicherplatz mit einer Lesegeschwindigkeit von fünf Gigabyte pro Sekunde und einer Schreibgeschwindigkeit von vier Gigabyte pro Sekunde
    Anwendung: längerfristiges Speichern von Daten und Programmen

Besonderheit:

flexibles System mit verschiedenen Rechnerarchitekturen; erlaubt effiziente Ausführung der Programme auf der für sie passenden Architektur und die Entwicklung neuer Programme für zukünftige Parallelrechner. Da die typische Lebensdauer – insbesondere von komplexen Ingenieursanwendungen – mehrere Rechnergenerationen umfasst, ist diese Nachhaltigkeit heute wichtig.

Nicole Voß / sip