Wie berechnet ein Rechenzentrum PUE, WUE, GPU-Energieverbrauch und Energiekosten pro Token?

Ein Rechenzentrum berechnet PUE, indem es die gesamte Energie der Einrichtung durch die Energie der IT-Ausrüstung teilt, WUE, indem es den Wasserverbrauch durch die Energie der IT-Ausrüstung teilt, den GPU-Energieverbrauch, indem es die Kartenleistung über die Zeit integriert, und die Energiekosten pro Token, indem es die relevanten Stromkosten auf die im selben Zeitraum erzeugten Tokens umlegt. Der schwierige Teil ist nicht die Arithmetik. Es geht darum, Messgrenzen, Zeitstempel, Workload-Zuordnung und Kostenzuweisung konsistent zu halten.

Wenn der Nenner aus einem System stammt, die Leistungsdaten aus einem anderen und die Token-Zahlen aus einem dritten, können inkonsistente Zeitfenster die Endzahl bedeutungslos machen. Bauen Sie zuerst das Datenmodell auf, berechnen Sie danach den KPI.

Wie wird PUE berechnet?

Power Usage Effectiveness, kurz PUE, wird berechnet als:

PUE = Total data center energy / IT equipment energy

The Green Grid beschreibt PUE als die gesamte von einem Rechenzentrum genutzte Energie geteilt durch die von der IKT-Ausrüstung genutzte Energie.

ISO/IEC 30134-2:2026 definiert PUE als standardisierten KPI für die Energieeffizienz von Rechenzentren.

Zähler und Nenner müssen denselben Zeitraum abdecken.

Wenn die Einrichtung während einer Stunde 1.200 kWh verbraucht hat und die IT-Ausrüstung in dieser Stunde 1.000 kWh verbraucht hat:

PUE = 1,200 / 1,000 = 1.20

Das bedeutet, dass die Einrichtung 1,20 Einheiten Energie für jede 1,00 Einheit verbraucht hat, die während des Messintervalls an die IT-Ausrüstung geliefert wurde.

Die Differenz umfasst den Overhead der Einrichtung innerhalb der definierten Messgrenze, etwa Kühlung und elektrische Verluste.

Berechnen Sie keinen täglichen Zähler für die Einrichtung gegen einen stündlichen IT-Nenner.

Vergleichen Sie keine Standorte mit wesentlich unterschiedlichen Messgrenzen, ohne den Unterschied zu erklären.

Was bedeutet ein niedrigerer PUE-Wert?

Ein niedrigerer PUE-Wert bedeutet im Allgemeinen, dass innerhalb der definierten Messgrenze weniger Energie der Einrichtung im Verhältnis zur Energie der IT-Ausrüstung verbraucht wird.

Die theoretische Untergrenze nähert sich 1,0, da die Gesamtenergie der Einrichtung normalerweise nicht geringer sein kann als die darin enthaltene Energie der IT-Ausrüstung.

PUE sagt Ihnen nicht, ob die IT-Ausrüstung selbst sinnvolle Arbeit leistet.

Diese Unterscheidung ist in der AI-Infrastruktur wichtig.

Ein Rechenzentrum kann einen effizienten PUE-Wert haben, während viele GPUs im Leerlauf sind.

Die Einrichtung liefert effizient Strom an die IT, aber die Rechenleistung kann dennoch wirtschaftlich ineffizient sein.

Deshalb sollte PUE zusammen mit GPU-Auslastung, nutzbarem Workload-Output, Kartenstunden und Service-Kennzahlen betrachtet werden.

PUE ist eine Effizienzkennzahl für die Einrichtung.

Sie ist keine vollständige Kennzahl für die Rechenproduktivität.

Wie wird WUE berechnet?

Water Usage Effectiveness, kurz WUE, misst den Wasserverbrauch im Verhältnis zur Energie der IT-Ausrüstung.

Das WUE-Whitepaper von The Green Grid definiert eine übergeordnete Formel für den Standort-WUE als:

WUE = Annual water usage / IT equipment energy

Die dokumentierte Einheit ist Liter pro Kilowattstunde.

ISO/IEC 30134-9:2022 legt WUE als KPI für Rechenzentren zur Quantifizierung des Wasserverbrauchs in der Nutzungsphase fest.

Wenn ein Standort in einem Jahr 5.000.000 Liter Wasser verbraucht und seine IT-Ausrüstung im selben Jahr 10.000.000 kWh verbraucht:

WUE = 5,000,000 L / 10,000,000 kWh = 0.5 L/kWh

Für WUE gilt dieselbe Disziplin wie für PUE.

Halten Sie den Zeitraum konsistent.

Dokumentieren Sie die Messgrenze.

Klären Sie, welche Wasserströme einbezogen sind.

Vergleichen Sie WUE-Werte nicht, ohne die dahinterliegende Bilanzierungsmethode zu verstehen.

Sollten PUE und WUE zonenweise berechnet werden?

Zonenbezogene PUE- und WUE-Werte können für den internen Betrieb nützlich sein, wenn die Einrichtung über ausreichendes Submetering verfügt, um eine belastbare Grenze zu stützen.

Ein Standort möchte zum Beispiel eine luftgekühlte Zone mit einer flüssigkeitsgekühlten Zone vergleichen.

Dieser Vergleich kann helfen, Unterschiede im Energie- und Wasserverhalten zu erkennen.

Aber ein Zonen-KPI sollte nicht so dargestellt werden, als wäre er direkt gleichwertig mit einer formalen standortweiten Kennzahl, wenn sich die Messmethode unterscheidet.

Verwenden Sie klare Bezeichnungen.

Nennen Sie den Zähler.

Nennen Sie den Nenner.

Nennen Sie, welche Zähler in die Berechnung einfließen.

Nennen Sie den Zeitraum.

Das zugrunde liegende Betriebsmodell nutzt zonale PUE- und WUE-Werte für den Betriebsvergleich, zusammen mit Liquid-Cooling-Telemetrie und Workload-Kosten.

Das ist nützlich, wenn der Zweck die interne Optimierung ist und nicht die Vermarktung einer einzelnen Kennzahl für die Einrichtung.

Wie wird der GPU-Energieverbrauch berechnet?

Der GPU-Energieverbrauch ist das Integral der GPU-Leistung über die Zeit.

In einfacher diskreter Form:

GPU energy (kWh) = Sum of [power in kW × time interval in hours]

Angenommen, eine GPU verbraucht im Schnitt 650 W über zwei Stunden.

Watt in Kilowatt umrechnen:

650 W = 0.65 kW

Dann:

Energy = 0.65 kW × 2 h = 1.30 kWh

Bei realen Workloads ändert sich die Leistung fortlaufend.

Ein Monitoring-System erfasst deshalb die Kartenleistung in regelmäßigen Intervallen und integriert diese Messwerte über das Workload-Fenster.

NVIDIA DCGM stellt für unterstützte GPUs Felder für die momentane Geräteleistung bereit, die als eine Telemetriequelle genutzt werden können.

Dasselbe Konzept gilt für andere Beschleuniger, wenn deren Hersteller-Telemetrie zuverlässige Leistungswerte liefert.

Das Abtastintervall spielt eine Rolle.

Sehr spärliche Messungen können kurze Spitzen und Laständerungen übersehen.

Sehr häufiges Sampling erzeugt mehr Telemetrie-Datenvolumen.

Wählen Sie eine Auflösung, die für den Betrieb und die Abrechnungsgenauigkeit angemessen ist.

Wie berechnet man die Energie für einen gesamten GPU-Job?

Summieren Sie die Energie, die von allen dem Job zugewiesenen Beschleunigern während des Job-Intervalls verbraucht wird.

Wenn ein Trainingsjob acht GPUs nutzt, berechnen Sie für jede Karte die Energie aus Leistung über Zeit und addieren Sie die Werte.

Entscheiden Sie dann, ob das Energiemodell auf Job-Ebene nur die GPU-Energie oder die breitere IT-Energie umfasst.

Ein vollständiges Compute-Kostenmodell kann außerdem Folgendes umfassen:

CPU-Energie
Arbeitsspeicher
Lokaler Storage
Netzwerk
Shared Storage
Server-Lüfter oder -Pumpen
Overhead der Einrichtung

Es gibt keine einzige korrekte Zuordnung für jedes Geschäftsmodell.

Wichtig ist, dass die Definition explizit ist.

Wenn Sie "GPU-Energie" ausweisen, verwenden Sie ausschließlich die Beschleuniger-Telemetrie.

Wenn Sie "dem Job zurechenbare IT-Energie" ausweisen, definieren Sie, wie die Energie von Server und gemeinsam genutzter Infrastruktur zugeordnet wird.

Wenn Sie "dem Job zurechenbaren Strom der Einrichtung" ausweisen, entscheiden Sie, ob und wie PUE angewendet wird.

Vermischen Sie diese Begriffe nicht.

Kann PUE genutzt werden, um die einem Workload zurechenbare Energie der Einrichtung zu schätzen?

PUE kann als Zuordnungsfaktor für eine Schätzung verwendet werden, wenn eine direkte Zurechnung auf Ebene der Einrichtung nicht verfügbar ist, aber das Ergebnis sollte als Schätzung gekennzeichnet werden.

Angenommen, die einem Workload zurechenbare IT-Energie beträgt 100 kWh und der anwendbare PUE-Wert liegt bei 1,20.

Ein einfaches Zuordnungsmodell würde schätzen:

Facility-attributed energy = 100 kWh × 1.20 = 120 kWh

Die implizierte Zuordnung des Overheads der Einrichtung beträgt 20 kWh.

Dieser Ansatz ist praktisch, setzt aber voraus, dass der durchschnittliche PUE-Wert ein sinnvoller Zuordnungsfaktor für diesen Workload und Zeitraum ist.

Ein präziseres Modell kann Intervall-PUE oder zonenspezifischen Overhead nutzen, wo die Messtechnik dies zulässt.

Das Ziel ist Konsistenz.

Verwenden Sie nicht den jährlichen PUE-Wert für ein Projekt und den stündlichen für ein anderes, um dann deren Stückkosten zu vergleichen, als wären die Methoden identisch.

Wie werden die Stromkosten berechnet?

Die Stromkosten ergeben sich aus der Energie multipliziert mit dem anwendbaren Tarif.

Für einen einfachen Flat-Tarif:

Electricity cost = Energy consumed × price per kWh

Wenn einem Workload 120 kWh zugeordnet werden und der Strom 0,10 $ pro kWh kostet:

Cost = 120 × $0.10 = $12.00

Reale Tarife können komplizierter sein.

Ein Standort kann Spitzen- und Schwachlastzeiten, Leistungspreise, Steuern oder andere Bestandteile haben.

Für die betriebliche Zuordnung sollte das System den Energieverbrauch dem Tarifintervall zuordnen, in dem er angefallen ist.

Deshalb ist die Übereinstimmung der Zeitstempel wichtig.

Wenn eine flexible Batch-Trainingsaufgabe während eines Zeitraums mit niedrigeren Preisen laufen kann, kann die Plattform die tatsächlichen Einsparungen berechnen, statt einen durchschnittlichen Stromtarif zu verwenden.

Das zugrunde liegende Betriebsmodell verknüpft gezielt Spitzen- und Schwachlastpreise mit unterbrechbaren Workloads und detailliert ausgewiesenen Einsparungen.

Wie berechnet man die GPU-Leerlaufenergie?

GPU-Leerlaufenergie ist die Energie, die verbraucht wird, während ein zugewiesener Beschleuniger gemäß der Definition der Organisation wenig oder keine nutzbare Workload-Aktivität erzeugt.

Definieren Sie zunächst Leerlauf.

Das kann bedeuten: kein zugewiesener Workload.

Das kann bedeuten: zugewiesen, aber für einen Mindestzeitraum unterhalb eines Auslastungsschwellenwerts.

Das kann bedeuten, dass eine Trainingsaufgabe auf Netzwerk oder Storage wartet.

Das sind unterschiedliche Arten von Leerlaufzeit.

Integrieren Sie anschließend die Leistung über das Leerlaufintervall.

Beispiel:

Eine Karte zieht im Schnitt 180 W während zwei als Leerlauf eingestufter Stunden.

0.18 kW × 2 h = 0.36 kWh

Multiplizieren Sie das mit den relevanten Stromkosten, wenn Sie die Leerlauf-Stromkosten ermitteln möchten.

Im großen Maßstab ist das nützlich, weil die Plattform verschwendete Energie nach Projekt, Verantwortlichem, Ressourcen-Pool oder Ursache einordnen kann.

Wichtig ist, Nutzern nicht automatisch die Schuld zu geben.

Geringe GPU-Aktivität kann durch Storage, Netzwerk, Scheduler-Fragmentierung oder das Laden von Daten verursacht werden.

Der Artikel darüber, warum die GPU-Auslastung niedrig ist, erklärt, wie Sie diese zugrunde liegende Ursache finden.

Wie berechnet man die Energiekosten pro Token?

Die Energiekosten pro Token erfordern drei aufeinander abgestimmte Messgrößen: zurechenbare Energie, Strompreis und Token-Ausstoß.

Ein einfaches Modell lautet:

Energy cost per Token = Attributable electricity cost / Number of Tokens

Angenommen, einem Inferenzdienst werden während einer Stunde 25 $ Stromkosten zugeordnet, und er erzeugt in derselben Stunde 50.000.000 abrechenbare Tokens.

$25 / 50,000,000 = $0.0000005 per Token

Für eine bessere Lesbarkeit können Sie die Kosten pro Million Tokens ausweisen:

$0.50 per 1 million Tokens

Das sind ausschließlich die Energiekosten.

Das sind nicht die vollständigen Kosten für den Betrieb des Modells.

Die vollständige Stückkostenrechnung kann außerdem Hardware-Abschreibung, Colocation, Software, Netzwerk, Personal, Storage und weitere Kosten umfassen.

Kennzeichnen Sie die Kennzahl eindeutig.

"Energiekosten pro Token" sollte Energiekosten bedeuten, nicht die Gesamtkosten des Modells.

Sollten Input- und Output-Tokens gleich behandelt werden?

Nur, wenn das zur Modell- und Geschäfts-Abrechnungsmethode passt.

Die Verarbeitung von Input- und Output-Tokens kann unterschiedliche Recheneigenschaften haben.

Manche Organisationen führen deshalb getrennte Zählungen.

Andere weisen der operativen Einfachheit halber Gesamt-Tokens aus.

Die Methode sollte konsistent sein.

Erfassen Sie mindestens Input-Tokens, Output-Tokens, Anzahl der Requests, Modell, Inferenz-Instanz, Projekt, API-Key oder Mandant sowie das Zeitfenster, soweit die Service-Architektur dies zulässt.

Dann kann das Kostenmodell mehrere Sichten unterstützen:

Energiekosten pro Gesamt-Token
Energiekosten pro Input-Token
Energiekosten pro Output-Token
Energiekosten pro Request
Energiekosten nach Modell
Energiekosten nach Mandant

Welche Sicht richtig ist, hängt davon ab, welche Entscheidung Sie treffen wollen.

Wie wird gemeinsam genutzte GPU-Energie auf mehrere Inferenz-Nutzer verteilt?

Verteilen Sie gemeinsam genutzte Energie anhand einer definierten Regel zur Workload-Zurechnung.

Wenn eine GPU mehrere Modellinstanzen oder Mandanten bedient, gehört die direkte physische Leistung zum gemeinsam genutzten Gerät.

Mögliche Zuordnungstreiber sind:

GPU-Zeit
Aktive Ausführungszeit
Anzahl der Requests
Anzahl der Tokens
Gemessene Auslastung der Modellinstanz
Anteil an der reservierten Kapazität

Jede Methode hat ihre Kompromisse.

Die Token-basierte Zuordnung ist leicht verständlich, spiegelt aber möglicherweise Unterschiede zwischen Modellgrößen nicht wider.

Die Zuordnung nach reservierter Kapazität entspricht der kommerziellen Reservierung, kann aber Leerlaufkapazität dem Mandanten berechnen, der sie reserviert hat.

Die Zuordnung nach Ausführungszeit kann technisch präziser, aber schwerer zu messen sein.

Wählen Sie ein Modell, veröffentlichen Sie es und wenden Sie es konsistent an.

Für die Kundenabrechnung zählen Einfachheit und Nachvollziehbarkeit genauso viel wie theoretische Präzision.

Wie sollten PUE, WUE und Token-Energie gemeinsam dargestellt werden?

Stellen Sie sie als unterschiedliche Effizienzebenen dar.

PUE beantwortet: Wie viel Energie der Einrichtung wird im Verhältnis zur IT-Energie benötigt?

WUE beantwortet: Wie viel Wasser wird im Verhältnis zur IT-Energie verbraucht?

GPU-Energie beantwortet: Wie viel elektrische Energie hat der Beschleuniger für den Workload verbraucht?

Energiekosten pro Token beantwortet: Welche Stromkosten waren mit einer Einheit der AI-Service-Ausgabe verbunden?

Fassen Sie sie nicht zu einem einzigen Wert zusammen.

Ein Betriebs-Dashboard kann alle vier anzeigen, aber jede sollte ihre eigene Formel und Quelle behalten.

Der verwandte Artikel darüber, wie GPU-Rechenzentren mit hoher Dichte Strom, Rack-Kapazität, Kühlung und Flüssigkeitskühlung verwalten sollten, erklärt, woher die zugrunde liegende Facility-Telemetrie stammt.

Wie verhindert man widersprüchliche Energiezahlen über verschiedene Dashboards hinweg?

Verwenden Sie für jede Kennzahl eine einzige Messquelle und eine einzige Definition.

Das zugrunde liegende Betriebsmodell macht das zu einer expliziten Anforderung: Energie-, Liquid-Cooling-, Mess-, Kosten- und Betriebs-Dashboards sollten dieselben zugrunde liegenden Daten nutzen, damit unterschiedliche Seiten keine widersprüchlichen Zahlen liefern.

Erstellen Sie ein Kennzahlen-Wörterbuch.

Definieren Sie PUE.

Definieren Sie WUE.

Definieren Sie die GPU-Energie.

Definieren Sie Leerlauf.

Definieren Sie Token.

Definieren Sie den Tarif.

Definieren Sie die Projektzurechnung.

Definieren Sie die Zeitzone und den Abrechnungszeitraum.

Versionieren Sie die Definitionen anschließend, wenn sie sich ändern.

Ein Plattformbeispiel, das Facility-Telemetrie, Beschleuniger-Messung und Token-Verbrauch miteinander verbindet, ist Sensaka.

Würde ich dieses System implementieren, würde ich zuerst die Nachvollziehbarkeitskette der Messung aufbauen und erst danach das Dashboard. Jede angezeigte Stückkosten-Zahl sollte sich bis zu einem Zähler oder Telemetriefeld, einem Zeitintervall, einem Workload oder Mandanten, einem Tarif und einer Ausgabemenge zurückverfolgen lassen. Sobald diese Kette vertrauenswürdig ist, werden PUE, WUE, GPU-Energie und Kosten pro Token zu nützlichen Betriebskennzahlen statt zu unzusammenhängenden Zahlen.