Der Energieverbrauch von KI-Rechenzentren beschäftigt Bürger, Wirtschaft und Politik. Der Energiebedarf erzeugt hohe Kosten, belastet die Umwelt und bringt die Strom-Infrastruktur an ihre Grenzen. Das Problem scheint klar. Nur, der Energieverbrauch ist im Kern das Ergebnis eines tieferliegenden Problems: die geringe Energieeffizienz in heutigen Data Centern. Um dies zu verbessern hat beispielsweise die Bundesregierung das Förderprogramm „Sustainable Data Centers“ (SustainDC) aufgelegt.
Tatsächlich aber gibt es schon praxistaugliche Technologien, welche die Energieeffizienz von KI-Rechenzentren deutlich steigern. Dazu gehören ein neuer Ansatz für das Datenmanagement, platz- und energiesparende Datenspeicher sowie ein neuer Netzwerk-Ansatz.
Drei deutschsprachige Experten aus dem Großraum München stellen die drei Effizienz-Hebel für KI in Rechenzentren vor:
Korbinian Zollner, Director für Solutions Architecture bei Starburst erklärt das Konzept eines effizienteren Datenmanagements: „Der Datentransport und die Datenverarbeitung gehören zu den größten Verursachern, wenn es um massiv steigenden Strombedarfs und Infrastruktur-Engpässe in modernen KI-Rechenzentren geht. Klassische KI-Modelle erfordern oft, dass riesige Datenmengen aus verschiedenen Quellen aufwendig in ein zentrales Data Warehouse oder einen Data Lake kopiert und migriert werden. Effizienter ist eine föderierte Abfrage-Engine. KI-Modelle und Datenanalysten können dabei Daten direkt dort abfragen, wo sie liegen – egal ob auf On-Premises-Systemen oder über verschiedene Clouds hinweg. Das spart enorme Mengen an Netzwerkkapazität, Speicherplatz und die rechenintensive Rechenleistung, die sonst für ETL-Prozesse nötig wäre.
Mit der Einführung der GPU-Engine ,Torin‘ binden wir die Technologie einer föderierten Abfrage Engine direkt in moderne KI-Beschleuniger-Hardware ein. Dadurch können Datenanalysen direkt über rechenstarke Grafikprozessoren beschleunigt werden, was die Verarbeitung großer Datenmengen in KI-Clustern nochmals deutlich beschleunigt und somit die Hardware-Auslastung im Rechenzentrum optimiert.“
Markus Grau, Area Vice President & Enterprise Architect, Office of the CTO bei Everpure, erläutert die Vorteile von Flash-Speicher im Vergleich zu traditionellen Festplatten: „Herkömmliche, festplattenbasierte Infrastrukturen tragen maßgeblich zum steigenden Stromverbrauch bei, der durch die wachsenden Datenmengen erforderlich wird. Flash-Speichertechnologie stellt hier eine Ausnahme dar: Der Stromverbrauch nimmt nicht zu, sondern sinkt sogar. Sie ermöglicht es Betreibern von Rechenzentren, den Energieverbrauch zu senken und gleichzeitig eine höhere Leistung, Dichte und Effizienz zu erzielen.
Flash-Technologie ist pro Terabyte weitaus effizienter als rotierende Festplatten. Bei Everpure sind wir noch einen Schritt weiter gegangen und haben unsere eigenen, hocheffizienten DirectFlash-Module entwickelt. DirectFlash verwaltet die Speichermedien auf Systemebene statt auf der Ebene einzelner Laufwerke. Da die Module über integrierten, nichtflüchtigen Arbeitsspeicher (NVRAM) verfügen, benötigen sie weniger Platz im Rack – das Speicher-Chassis kommt ohne dedizierte Steckplätze für separate NVRAM-Komponenten aus. Dies führt zu einer bis zu fünfmal höheren Energieeffizienz im Vergleich zu Standard-SSDs, einer Reduzierung der CO2-Emissionen um 85 Prozent, einem geringeren Platzbedarf im Rechenzentrum sowie einer drei- bis sechsfach höheren Zuverlässigkeit im Vergleich zu herkömmlichen SSDs und Festplatten.
Darüber hinaus können Storage-Administratoren mit der AIOps-Managementlösung Pure1 die Effizienz und die CO2-Emissionen in ihren Rechenzentren überwachen. Die Software umfasst ein Monitoring-Dashboard, das die aktuellen CO2-Emissionen der Rechenzentrumsumgebung anzeigt.
Unternehmen weltweit bestätigen das Einsparpotenzial, das mit diesem Ansatz verbunden ist. Das britische Telekommunikationsunternehmen Virgin Media O2 konnte seinen Stromverbrauch für die Datenspeicherung um 96 Prozent senken. Golden Cloud Technology, ein Anbieter von Business Intelligence, Managed Services und Datenwiederherstellung, reduzierte seine jährlichen Stromkosten um 85 Prozent. NTT DATA, ein Innovationsführer im Bereich Geschäfts- und Technologiedienstleistungen, senkt seine Energiekosten um 50 Prozent. Fiserv, ein Anbieter von Zahlungsabwicklungsdiensten und Software für den Banken-, Finanz- und Einzelhandelssektor, konnte seine Emissionen halbieren und den Stromverbrauch um 73 Prozent verringern.“
Manfred Felsberg, Global Sales Lead bei Aria Networks, erklärt, warum das althergebrachte Netzwerk-Konzept in modernen Rechenzentren ein Bremser- und Energievergeuder ist: „In KI-Rechenzentren entscheidet das Netzwerk darüber, wie viel Energie in tatsächliche Rechenergebnisse umgewandelt wird.
Die Unternehmen, die im Zeitalter der KI erfolgreich sein werden, sind diejenigen, die Intelligenz am kostengünstigsten produzieren können. Als Maßstab hierfür dient die ,Token-Effizienz‘ – für Betreiber konkret ausgedrückt als ,Token pro Watt‘. Das Netzwerk ist der entscheidende Faktor für Erfolg oder Misserfolg. Ein AI Data Center verursacht Energiekosten, unabhängig davon, ob die Beschleunigereinheiten (GPUs) gerade arbeiten oder im Leerlauf sind. Stockt das Netzwerk, bleiben die GPUs ungenutzt, während das Unternehmen weiterhin die vollen Kosten für Abschreibungen, Leasing und Energie trägt – bei gleichzeitig geringerem Output an abrechenbaren Token. Obwohl das Netzwerk nur 10 bis 15 Prozent der Investitionskosten (CapEx) eines Clusters ausmacht, bestimmt es maßgeblich, wie viel der übrigen Ressourcen tatsächlich in nutzbare Ergebnisse fließt. Die Ursachen für Netzwerkverlangsamungen sind oft schwer zu identifizieren. Sogenannte ,Gray Failures‘ – etwa schleichend nachlassende optische Komponenten, unbemerkt verworfene Datenpakete oder ,Microbursts‘ (kurzzeitige Datenverkehrsspitzen von 5 bis 50 Mikrosekunden Dauer) – entziehen sich der Wahrnehmung herkömmlicher Netzwerke und Management-Tools, die den Status meist nur im Sekundentakt abfragen. Die Folge: Nutzer beschweren sich, die Effizienz sinkt, teure Rechenleistung verpufft – und doch signalisiert das Netzwerk-Dashboard einen einwandfreien Betrieb. Bis qualifizierte Ingenieure die notwendigen Fehlerdiagnosedaten aus verschiedenen Quellen zusammengetragen und korreliert haben, ist es meist schon zu spät. Die hohe Geschwindigkeit und Intensität von KI-Workloads erfordern daher einen grundlegend neuen Ansatz.
,Deep Networking‘ ermöglicht einen Wandel. Das ganzheitlich konzipierte System basiert auf KI-optimierter Hardware: 800G- und 1.6T-Ethernet-Switches auf Basis von Broadcom-Tomahawk-Chips, betrieben mit dem Betriebssystem AriaOS. Dank einer hochpräzisen Telemetrie, die Ereignisse mit einer 100- bis 10.000-fach höheren Auflösung als herkömmliche Werkzeuge erfasst, lassen sich Vorfälle in Echtzeit – durchgängig und auf einer einheitlichen Zeitachse – nachverfolgen. Spezialisierte KI-Agenten erkennen, diagnostizieren und beheben Probleme automatisch in Maschinengeschwindigkeit. So können die Beschleunigereinheiten kontinuierlich produktiv bleiben, anstatt im Leerlauf Energie zu verbrauchen.
Die Energieeffizienz verbessert sich dabei auf zweierlei Weise: Zum einen wird aus jedem Watt, das der Cluster aufnimmt, eine höhere Anzahl an Token generiert. Zum anderen entfällt die Notwendigkeit, zusätzliche Kapazitäten als Puffer gegen unerklärliche Leistungsabfälle vorzuhalten. Dies ermöglicht es Betreibern, ihre Leistungsversprechen mit weniger Hardware und einem geringeren Energieverbrauch zu erfüllen.
Unabhängige Benchmarks von SemiAnalysis zeigen, dass allein die Netzwerkarchitektur die Inferenzleistung um den Faktor 5 bis 10 beeinflussen kann. Das Netzwerk wird für sich genommen keine Benchmarks anführen, doch es sollte niemals der Grund dafür sein, dass Rechenleistung verbraucht wird, ohne dass dabei Tokens entstehen.“
