Wie berechnet ein Rechenzentrum PUE, WUE, GPU-Energieverbrauch und Energiekosten pro Token?

Ein Rechenzentrum berechnet PUE, indem es die gesamte Energie der Einrichtung durch die Energie der IT-Ausrüstung teilt, WUE, indem es den Wasserverbrauch durch die Energie der IT-Ausrüstung teilt, den GPU-Energieverbrauch, indem es die Kartenleistung über die Zeit integriert, und die Energiekosten pro Token, indem es die relevanten Stromkosten auf die im selben Zeitraum erzeugten Tokens umlegt. Die Arithmetik ist dabei einfach. Schwierig wird es, Messgrenzen, Zeitstempel, Workload-Zuordnung und Kostenzuweisung konsistent zu halten.

Wenn der Nenner aus einem System stammt, die Leistungsdaten aus einem anderen und die Token-Zahlen aus einem dritten, können inkonsistente Zeitfenster die Endzahl bedeutungslos machen. Bauen Sie zuerst das Datenmodell auf, berechnen Sie danach den KPI.

Wie wird PUE berechnet?

Power Usage Effectiveness, kurz PUE, wird berechnet als:

PUE = Total data center energy / IT equipment energy

The Green Grid beschreibt PUE als die gesamte von einem Rechenzentrum genutzte Energie geteilt durch die von der IKT-Ausrüstung genutzte Energie. ISO/IEC 30134-2:2026 definiert PUE als standardisierten KPI für die Energieeffizienz von Rechenzentren. Zähler und Nenner müssen dabei denselben Zeitraum abdecken.

Wenn die Einrichtung während einer Stunde 1.200 kWh verbraucht hat und die IT-Ausrüstung in dieser Stunde 1.000 kWh verbraucht hat:

PUE = 1,200 / 1,000 = 1.20

Das bedeutet, dass die Einrichtung 1,20 Einheiten Energie für jede 1,00 Einheit verbraucht hat, die während des Messintervalls an die IT-Ausrüstung geliefert wurde. Die Differenz umfasst den Overhead der Einrichtung innerhalb der definierten Messgrenze, etwa Kühlung und elektrische Verluste.

Berechnen Sie keinen täglichen Zähler für die Einrichtung gegen einen stündlichen IT-Nenner, und vergleichen Sie keine Standorte mit wesentlich unterschiedlichen Messgrenzen, ohne den Unterschied zu erklären.

Was bedeutet ein niedrigerer PUE-Wert?

Ein niedrigerer PUE-Wert bedeutet im Allgemeinen, dass innerhalb der definierten Messgrenze weniger Energie der Einrichtung im Verhältnis zur Energie der IT-Ausrüstung verbraucht wird. Die theoretische Untergrenze nähert sich 1,0, da die Gesamtenergie der Einrichtung normalerweise nicht geringer sein kann als die darin enthaltene Energie der IT-Ausrüstung.

PUE sagt Ihnen allerdings nicht, ob die IT-Ausrüstung selbst sinnvolle Arbeit leistet, und in der AI-Infrastruktur ist genau das wichtig. Ein Rechenzentrum kann einen effizienten PUE-Wert haben, während viele GPUs im Leerlauf sind. Die Einrichtung liefert dann effizient Strom an die IT, aber die Rechenleistung kann dennoch wirtschaftlich ineffizient sein.

Deshalb sollte PUE zusammen mit GPU-Auslastung, nutzbarem Workload-Output, Kartenstunden und Service-Kennzahlen betrachtet werden. PUE ist eine Effizienzkennzahl für die Einrichtung und keine vollständige Kennzahl für die Rechenproduktivität.

Wie wird WUE berechnet?

Water Usage Effectiveness, kurz WUE, misst den Wasserverbrauch im Verhältnis zur Energie der IT-Ausrüstung. Das WUE-Whitepaper von The Green Grid definiert eine übergeordnete Formel für den Standort-WUE als:

WUE = Annual water usage / IT equipment energy

Die dokumentierte Einheit ist Liter pro Kilowattstunde. ISO/IEC 30134-9:2022 legt WUE als KPI für Rechenzentren zur Quantifizierung des Wasserverbrauchs in der Nutzungsphase fest.

Wenn ein Standort in einem Jahr 5.000.000 Liter Wasser verbraucht und seine IT-Ausrüstung im selben Jahr 10.000.000 kWh verbraucht:

WUE = 5,000,000 L / 10,000,000 kWh = 0.5 L/kWh

Für WUE gilt dieselbe Disziplin wie für PUE. Halten Sie den Zeitraum konsistent, dokumentieren Sie die Messgrenze und klären Sie, welche Wasserströme einbezogen sind. WUE-Werte sollten Sie erst vergleichen, wenn Sie die dahinterliegende Bilanzierungsmethode verstanden haben.

Sollten PUE und WUE zonenweise berechnet werden?

Zonenbezogene PUE- und WUE-Werte können für den internen Betrieb nützlich sein, wenn die Einrichtung über ausreichendes Submetering verfügt, um eine belastbare Grenze zu stützen. Ein Standort möchte zum Beispiel eine luftgekühlte Zone mit einer flüssigkeitsgekühlten Zone vergleichen, und dieser Vergleich kann helfen, Unterschiede im Energie- und Wasserverhalten zu erkennen.

Ein Zonen-KPI sollte aber nicht so dargestellt werden, als wäre er direkt gleichwertig mit einer formalen standortweiten Kennzahl, wenn sich die Messmethode unterscheidet. Verwenden Sie klare Bezeichnungen und nennen Sie Zähler und Nenner, die Messzähler, die in die Berechnung einfließen, sowie den Zeitraum.

Das zugrunde liegende Betriebsmodell nutzt zonale PUE- und WUE-Werte für den Betriebsvergleich, zusammen mit Liquid-Cooling-Telemetrie und Workload-Kosten. Das ist nützlich, solange der Zweck die interne Optimierung ist und nicht die Vermarktung einer einzelnen Kennzahl für die Einrichtung.

Wie wird der GPU-Energieverbrauch berechnet?

Der GPU-Energieverbrauch ist das Integral der GPU-Leistung über die Zeit. In einfacher diskreter Form:

GPU energy (kWh) = Sum of [power in kW × time interval in hours]

Angenommen, eine GPU verbraucht im Schnitt 650 W über zwei Stunden. Rechnen Sie zuerst Watt in Kilowatt um:

650 W = 0.65 kW

Dann:

Energy = 0.65 kW × 2 h = 1.30 kWh

Bei realen Workloads ändert sich die Leistung fortlaufend. Ein Monitoring-System erfasst deshalb die Kartenleistung in regelmäßigen Intervallen und integriert diese Messwerte über das Workload-Fenster. NVIDIA DCGM stellt für unterstützte GPUs Felder für die momentane Geräteleistung bereit, die als eine Telemetriequelle genutzt werden können. Dasselbe Konzept gilt für andere Beschleuniger, wenn deren Hersteller-Telemetrie zuverlässige Leistungswerte liefert.

Auch das Abtastintervall spielt eine Rolle. Sehr spärliche Messungen können kurze Spitzen und Laständerungen übersehen, sehr häufiges Sampling erzeugt mehr Telemetrie-Datenvolumen. Wählen Sie eine Auflösung, die für den Betrieb und die Abrechnungsgenauigkeit angemessen ist.

Wie berechnet man die Energie für einen gesamten GPU-Job?

Summieren Sie die Energie, die von allen dem Job zugewiesenen Beschleunigern während des Job-Intervalls verbraucht wird. Wenn ein Trainingsjob acht GPUs nutzt, berechnen Sie für jede Karte die Energie aus Leistung über Zeit und addieren Sie die Werte. Entscheiden Sie dann, ob das Energiemodell auf Job-Ebene nur die GPU-Energie oder die breitere IT-Energie umfasst.

Ein vollständiges Compute-Kostenmodell kann außerdem CPU-Energie, Arbeitsspeicher, lokalen Storage, Netzwerk, Shared Storage, Server-Lüfter oder -Pumpen und den Overhead der Einrichtung umfassen.

Es gibt keine einzige korrekte Zuordnung für jedes Geschäftsmodell. Wichtig ist, dass die Definition explizit ist. Wenn Sie "GPU-Energie" ausweisen, verwenden Sie ausschließlich die Beschleuniger-Telemetrie. Wenn Sie "dem Job zurechenbare IT-Energie" ausweisen, definieren Sie, wie die Energie von Server und gemeinsam genutzter Infrastruktur zugeordnet wird. Wenn Sie "dem Job zurechenbaren Strom der Einrichtung" ausweisen, entscheiden Sie, ob und wie PUE angewendet wird. Diese Begriffe dürfen nicht vermischt werden.

Kann PUE genutzt werden, um die einem Workload zurechenbare Energie der Einrichtung zu schätzen?

PUE kann als Zuordnungsfaktor für eine Schätzung verwendet werden, wenn eine direkte Zurechnung auf Ebene der Einrichtung nicht verfügbar ist, aber das Ergebnis sollte als Schätzung gekennzeichnet werden.

Angenommen, die einem Workload zurechenbare IT-Energie beträgt 100 kWh und der anwendbare PUE-Wert liegt bei 1,20. Ein einfaches Zuordnungsmodell würde schätzen:

Facility-attributed energy = 100 kWh × 1.20 = 120 kWh

Die implizierte Zuordnung des Overheads der Einrichtung beträgt 20 kWh. Dieser Ansatz ist praktisch, setzt aber voraus, dass der durchschnittliche PUE-Wert ein sinnvoller Zuordnungsfaktor für diesen Workload und Zeitraum ist. Ein präziseres Modell kann Intervall-PUE oder zonenspezifischen Overhead nutzen, wo die Messtechnik dies zulässt.

Worauf es ankommt, ist Konsistenz. Verwenden Sie nicht den jährlichen PUE-Wert für ein Projekt und den stündlichen für ein anderes, um dann deren Stückkosten zu vergleichen, als wären die Methoden identisch.

Wie werden die Stromkosten berechnet?

Die Stromkosten ergeben sich aus der Energie multipliziert mit dem anwendbaren Tarif. Für einen einfachen Flat-Tarif:

Electricity cost = Energy consumed × price per kWh

Wenn einem Workload 120 kWh zugeordnet werden und der Strom 0,10 $ pro kWh kostet:

Cost = 120 × $0.10 = $12.00

Reale Tarife können komplizierter sein, denn ein Standort kann Spitzen- und Schwachlastzeiten, Leistungspreise, Steuern oder andere Bestandteile haben. Für die betriebliche Zuordnung sollte das System den Energieverbrauch dem Tarifintervall zuordnen, in dem er angefallen ist, und dafür müssen die Zeitstempel übereinstimmen.

Wenn eine flexible Batch-Trainingsaufgabe während eines Zeitraums mit niedrigeren Preisen laufen kann, kann die Plattform die tatsächlichen Einsparungen berechnen, statt einen durchschnittlichen Stromtarif zu verwenden. Das zugrunde liegende Betriebsmodell verknüpft gezielt Spitzen- und Schwachlastpreise mit unterbrechbaren Workloads und detailliert ausgewiesenen Einsparungen.

Wie berechnet man die GPU-Leerlaufenergie?

GPU-Leerlaufenergie ist die Energie, die verbraucht wird, während ein zugewiesener Beschleuniger gemäß der Definition der Organisation wenig oder keine nutzbare Workload-Aktivität erzeugt.

Definieren Sie deshalb zunächst, was Leerlauf heißt. Das kann bedeuten, dass kein Workload zugewiesen ist, dass die Karte zugewiesen ist, aber für einen Mindestzeitraum unterhalb eines Auslastungsschwellenwerts bleibt, oder dass eine Trainingsaufgabe auf Netzwerk oder Storage wartet. Das sind unterschiedliche Arten von Leerlaufzeit.

Integrieren Sie anschließend die Leistung über das Leerlaufintervall. Ein Beispiel: Eine Karte zieht im Schnitt 180 W während zwei als Leerlauf eingestufter Stunden.

0.18 kW × 2 h = 0.36 kWh

Multiplizieren Sie das mit den relevanten Stromkosten, wenn Sie die Leerlauf-Stromkosten ermitteln möchten. Im großen Maßstab ist das nützlich, weil die Plattform verschwendete Energie nach Projekt, Verantwortlichem, Ressourcen-Pool oder Ursache einordnen kann.

Geben Sie den Nutzern dabei nicht automatisch die Schuld. Geringe GPU-Aktivität kann durch Storage, Netzwerk, Scheduler-Fragmentierung oder das Laden von Daten verursacht werden. Der Artikel darüber, warum die GPU-Auslastung niedrig ist, erklärt, wie Sie diese zugrunde liegende Ursache finden.

Wie berechnet man die Energiekosten pro Token?

Die Energiekosten pro Token erfordern drei aufeinander abgestimmte Messgrößen: zurechenbare Energie, Strompreis und Token-Ausstoß. Ein einfaches Modell lautet:

Energy cost per Token = Attributable electricity cost / Number of Tokens

Angenommen, einem Inferenzdienst werden während einer Stunde 25 $ Stromkosten zugeordnet, und er erzeugt in derselben Stunde 50.000.000 abrechenbare Tokens.

$25 / 50,000,000 = $0.0000005 per Token

Für eine bessere Lesbarkeit können Sie die Kosten pro Million Tokens ausweisen:

$0.50 per 1 million Tokens

Das sind ausschließlich die Energiekosten und nicht die vollständigen Kosten für den Betrieb des Modells. Die vollständige Stückkostenrechnung kann außerdem Hardware-Abschreibung, Colocation, Software, Netzwerk, Personal, Storage und weitere Kosten umfassen. Kennzeichnen Sie die Kennzahl deshalb eindeutig: "Energiekosten pro Token" sollte Energiekosten bedeuten und nicht die Gesamtkosten des Modells.

Sollten Input- und Output-Tokens gleich behandelt werden?

Nur, wenn das zur Modell- und Geschäfts-Abrechnungsmethode passt. Die Verarbeitung von Input- und Output-Tokens kann unterschiedliche Recheneigenschaften haben, weshalb manche Organisationen getrennte Zählungen führen. Andere weisen der operativen Einfachheit halber Gesamt-Tokens aus. In beiden Fällen sollte die Methode konsistent sein.

Erfassen Sie mindestens Input-Tokens, Output-Tokens, Anzahl der Requests, Modell, Inferenz-Instanz, Projekt, API-Key oder Mandant sowie das Zeitfenster, soweit die Service-Architektur dies zulässt.

Dann kann das Kostenmodell mehrere Sichten unterstützen: Energiekosten pro Gesamt-Token, pro Input-Token, pro Output-Token und pro Request, außerdem Energiekosten nach Modell und nach Mandant. Welche Sicht richtig ist, hängt davon ab, welche Entscheidung Sie treffen wollen.

Wie wird gemeinsam genutzte GPU-Energie auf mehrere Inferenz-Nutzer verteilt?

Verteilen Sie gemeinsam genutzte Energie anhand einer definierten Regel zur Workload-Zurechnung. Wenn eine GPU mehrere Modellinstanzen oder Mandanten bedient, gehört die direkte physische Leistung zum gemeinsam genutzten Gerät.

Als Zuordnungstreiber kommen GPU-Zeit, aktive Ausführungszeit, die Anzahl der Requests, die Anzahl der Tokens, die gemessene Auslastung der Modellinstanz oder der Anteil an der reservierten Kapazität in Frage.

Jede Methode hat ihre Kompromisse. Die Token-basierte Zuordnung ist leicht verständlich, spiegelt aber möglicherweise Unterschiede zwischen Modellgrößen nicht wider. Die Zuordnung nach reservierter Kapazität entspricht der kommerziellen Reservierung, kann aber Leerlaufkapazität dem Mandanten berechnen, der sie reserviert hat. Die Zuordnung nach Ausführungszeit kann technisch präziser, aber schwerer zu messen sein.

Wählen Sie ein Modell, veröffentlichen Sie es und wenden Sie es konsistent an. Für die Kundenabrechnung zählen Einfachheit und Nachvollziehbarkeit genauso viel wie theoretische Präzision.

Wie sollten PUE, WUE und Token-Energie gemeinsam dargestellt werden?

Stellen Sie sie als unterschiedliche Effizienzebenen dar. PUE beantwortet, wie viel Energie der Einrichtung im Verhältnis zur IT-Energie benötigt wird. WUE beantwortet, wie viel Wasser im Verhältnis zur IT-Energie verbraucht wird. GPU-Energie zeigt, wie viel elektrische Energie der Beschleuniger für den Workload verbraucht hat, und die Energiekosten pro Token zeigen, welche Stromkosten mit einer Einheit der AI-Service-Ausgabe verbunden waren.

Fassen Sie sie nicht zu einem einzigen Wert zusammen. Ein Betriebs-Dashboard kann alle vier anzeigen, aber jede sollte ihre eigene Formel und Quelle behalten.

Der verwandte Artikel darüber, wie GPU-Rechenzentren mit hoher Dichte Strom, Rack-Kapazität, Kühlung und Flüssigkeitskühlung verwalten sollten, erklärt, woher die zugrunde liegende Facility-Telemetrie stammt.

Wie verhindert man widersprüchliche Energiezahlen über verschiedene Dashboards hinweg?

Verwenden Sie für jede Kennzahl eine einzige Messquelle und eine einzige Definition. Das zugrunde liegende Betriebsmodell macht das zu einer expliziten Anforderung: Energie-, Liquid-Cooling-, Mess-, Kosten- und Betriebs-Dashboards sollten dieselben zugrunde liegenden Daten nutzen, damit unterschiedliche Seiten keine widersprüchlichen Zahlen liefern.

Erstellen Sie dafür ein Kennzahlen-Wörterbuch, das PUE, WUE, die GPU-Energie, Leerlauf, Token, den Tarif, die Projektzurechnung sowie Zeitzone und Abrechnungszeitraum definiert. Versionieren Sie die Definitionen anschließend, wenn sie sich ändern.

Ein Plattformbeispiel, das Facility-Telemetrie, Beschleuniger-Messung und Token-Verbrauch miteinander verbindet, ist Sensaka.

Würde ich dieses System implementieren, würde ich zuerst die Nachvollziehbarkeitskette der Messung aufbauen und erst danach das Dashboard. Jede angezeigte Stückkosten-Zahl sollte sich bis zu einem Zähler oder Telemetriefeld, einem Zeitintervall, einem Workload oder Mandanten, einem Tarif und einer Ausgabemenge zurückverfolgen lassen. Sobald diese Kette vertrauenswürdig ist, werden PUE, WUE, GPU-Energie und Kosten pro Token zu nützlichen Betriebskennzahlen statt zu unzusammenhängenden Zahlen.