Wie können IT-Teams Hoch- und Niedertarif-Strompreise nutzen, um die Infrastrukturbetriebskosten zu senken?

IT-Teams können die Infrastrukturbetriebskosten senken, indem sie flexible Workload-Zeitpläne an zeitvariable Strompreise anpassen. Das v3.2-Energiemanagement-Design der Quelle erfasst explizit Hoch- und Niedertarife, identifiziert unterbrechbare Aufgaben, die sich in Niedrigpreisperioden verschieben lassen, und berechnet die Einsparung für jede Verschiebung. Das Beispiel enthält vier Preisperioden mit einem vierfachen Unterschied zwischen dem niedrigsten und dem höchsten Tarif.

Die wichtige Grenze ist die Flexibilität der Workload. Der Strompreis sollte beeinflussen, wann geeignete Arbeit läuft. Er sollte nicht Service-SLOs, Deadlines, Kapazitätsgrenzen oder Geschäftsprioritäten außer Kraft setzen.

Was sind Hoch- und Niedertarif-Strompreise?

Hoch- und Niedertarifpreise bedeuten, dass sich der Strompreis je nach Tageszeitraum ändert.

Der genaue Tarif kann Folgendes umfassen:

Hochtarif
Übergangstarif
Niedertarif
Weitere vom Energieversorger definierte Perioden

Das v3.2-Beispiel der Quelle verwendet vier Preisperioden.

Das ist ein Beispiel aus dem Plattformdesign, keine universelle Marktstruktur.

Das Unternehmen sollte den tatsächlichen Stromvertrag oder Tarif laden, der für jeden Standort gilt.

Die Plattform kann dann die Energiekosten mit dem korrekten Preis für den Zeitpunkt des Energieverbrauchs berechnen.

Warum ist zeitvariable Preisgestaltung für KI-Infrastruktur wichtig?

KI-Workloads können energieintensiv sein, und manche von ihnen sind zeitlich flexibel.

Eine große Trainingsaufgabe kann stundenlang laufen.

Eine Modellevaluierung muss nicht sofort beginnen.

Ein Batch-Inferenz-Workload kann eine Fertigstellungs-Deadline haben statt einer Echtzeit-Latenzanforderung.

Wenn der Strompreis im Tagesverlauf deutlich schwankt, kann das Verschieben dieser Workloads Kosten senken, ohne die Hardware zu verändern.

Genau aus diesem Grund verbindet das Energiemodell der Quelle den Strompreis mit dem Scheduling.

Welche Workloads eignen sich gut für eine Verschiebung?

Gute Kandidaten sind Workloads, deren Startzeit sich verschieben lässt, ohne Serviceanforderungen zu verletzen.

Beispiele können sein:

Batch-Training
Modellevaluierung
Nicht dringendes Fine-Tuning
Backfill-Aufgaben
Datenverarbeitung
Manche Wartungsjobs

Die Quelle bezieht sich speziell auf unterbrechbare Aufgaben.

Das ist ein wichtiges Wort.

Eine Aufgabe, die sich verzögern oder unterbrechen lässt, ist leichter zu verschieben.

Die Organisation sollte die Flexibilität festlegen, wenn die Workload eingereicht wird.

Entscheiden Sie das nicht erst, nachdem die Ressource bereits läuft.

Welche Workloads sollten in der Regel bleiben, wo sie sind?

Online- oder zeitkritische Dienste sollten in der Regel zuerst von ihrer Serviceanforderung bestimmt werden.

Beispiele sind:

Produktions-Inferenz
Kundenseitige API
Dringende Incident-Wiederherstellung
Deadline-kritisches Training
Kritischer Batch mit festem Fertigstellungsfenster

Ein hoher Strompreis rechtfertigt nicht das Verfehlen eines SLOs.

Das umfassendere Betriebsmodell der Quelle umfasst Servicequalität, Priorität, Quoten und SRE.

Energieoptimierung muss innerhalb dieser Regeln bleiben.

Wie sollte der Tarif dargestellt werden?

Speichern Sie den tatsächlichen Preis nach Standort und Zeitperiode.

Nützliche Felder umfassen:

Rechenzentrum
Gültigkeitsdatum
Zeitperiode
Strompreis pro kWh
Wochenend- oder Feiertagsregel, sofern zutreffend
Vertragsversion

Die Quelle definiert kein Tarifdatenschema.

Die praktische Anforderung ist, dass die Kostenberechnung weiß, welcher Satz für jedes Energieintervall gilt.

Wenn sich der Stromvertrag ändert, sollte der neue Tarif versioniert werden, statt historische Kosten zu überschreiben.

Wie sollte die Workload-Energie gemessen werden?

Verwenden Sie, wo verfügbar, gemessene Geräte- oder zugewiesene Workload-Energie.

Das Energiemodell der Quelle umfasst:

GPU-Leistung
Energie auf Geräteebene
Projektzuordnung
Energie pro Token-Einheit

Integrieren Sie für eine Workload die relevante Leistung über deren Ausführungszeitraum.

Ordnen Sie diese Energie dann den Tarifperioden zu, die sie durchlaufen hat.

Wenn ein Job sich über Hoch- und Niedertarifzeit erstreckt, sollte die Energie auf diese Perioden aufgeteilt werden, statt einen einzigen Preis auf den gesamten Job anzuwenden.

Die genaue Granularität hängt von der Telemetrie ab.

Wie sollte die potenzielle Einsparung berechnet werden?

Vergleichen Sie die geschätzten Kosten beim aktuellen Zeitplan mit den geschätzten Kosten beim vorgeschlagenen Zeitplan.

Konzeptionell:

Energie des aktuellen Zeitplans nach Tarifperiode.

Energie des vorgeschlagenen Zeitplans nach Tarifperiode.

Die Differenz ergibt die prognostizierte Einsparung.

Das v3.2-Design der Quelle besagt, dass die Einsparung jeder verschobenen Workload einzeln berechnet wird.

Das ist nützlich, weil nicht jede Verschiebung denselben Betrag spart.

Ein kurzer Job mit geringer Leistung rechtfertigt möglicherweise nicht den operativen Aufwand.

Ein langer Job mit hoher Leistung kann erhebliche Einsparungen bringen.

Welche Annahmen sollten angezeigt werden?

Zeigen Sie die Annahmen hinter der Einsparungsschätzung.

Beispiele:

Die Workload-Energie bleibt ähnlich.

Die Job-Dauer bleibt ähnlich.

Derselbe Beschleunigertyp ist verfügbar.

Keine Aufgabe mit höherer Priorität verdrängt sie.

Das Ziel-Niedertarif-Fenster hat genug Kapazität.

Der Job wird weiterhin vor seiner Deadline fertig.

Die Quelle liefert keine einzelne universelle Prognosemethode.

Transparente Annahmen machen die Empfehlung überprüfbar.

Wie sollten Warteschlange und Kapazität berücksichtigt werden?

Das Verschieben von Arbeit in Niedertarifperioden kann eine neue Kapazitätsspitze erzeugen.

Angenommen, viele Teams verschieben Trainingsjobs auf Mitternacht.

Der Strom wird billiger.

Der GPU-Pool wird überbucht.

Jobs stauen sich in der Warteschlange und verpassen Deadlines.

Der Scheduler der Quelle erfasst bereits:

Quote
Priorität
Warteschlange
Ressourcenverfügbarkeit
Fragmentierung

Energiebewusstes Scheduling sollte daher prüfen, ob das Niedrigpreisfenster einsetzbare Kapazität hat.

Billiger Strom nützt nichts, wenn die Workload nicht starten kann.

Wie sollten Deadlines gehandhabt werden?

Eine flexible Workload braucht dennoch eine Fertigstellungsanforderung.

Eine Scheduling-Regel kann berücksichtigen:

Frühester Start
Spätestes Ende
Geschätzte Dauer
Ressourcenanforderung
Priorität
Strompreis

Die Quelle definiert keinen deadline-bewussten Scheduler-Algorithmus.

Das von der Quelle gestützte Prinzip ist, unterbrechbare Arbeit zu verschieben, ohne die Service- oder Projektanforderung zu verletzen.

Die Plattform sollte den Grund für das gewählte Fenster sichtbar machen.

Für die Scheduling-Steuerung rund um Quoten, Prioritäten, Reservierungen und Preemption erklärt was GPU-Quoten, Reservierungen, Prioritäten und Preemption bedeuten und wann sie jeweils eingesetzt werden sollten, wie Workload-Dringlichkeit und -Berechtigung vom Energiepreis getrennt bleiben sollten.

Wie sollte Preemption energiebewusstes Scheduling beeinflussen?

Preemptible Arbeit lässt sich leichter verschieben, aber Unterbrechung kann verschwendete Rechenleistung verursachen.

Der Scheduler der Quelle unterstützt Preemption und Checkpoint-Schutz.

Wenn ein Trainingsjob einen aktuellen Checkpoint hat, kann die Plattform ihn möglicherweise mit begrenztem Arbeitsverlust pausieren oder neu einplanen.

Wenn der Job sich nicht sicher wiederherstellen lässt, kann seine Unterbrechung für einen niedrigeren Stromtarif mehr kosten, als sie einspart.

Energieoptimierung sollte daher Checkpoint- und Neustartkosten berücksichtigen.

Wie sollte Leerlaufleistung die Entscheidung beeinflussen?

Eine in die Niedertarifzeit verschobene Workload kann Hardware während der Hochtarifzeit trotzdem eingeschaltet und im Leerlauf lassen.

Das v3.2-Energiemodell der Quelle erfasst auch die GPU-Leerlaufleistung.

Das bedeutet, eine Scheduling-Entscheidung sollte beides berücksichtigen:

Verschobene Workload-Energie
Verbleibende Leerlaufenergie

Wenn die Infrastruktur während der ungenutzten Periode sicher in einen Zustand niedrigeren Verbrauchs wechseln kann, kann die Einsparung größer ausfallen.

Wenn die Hardware bei hoher Leerlaufleistung bleibt, kann der Nutzen kleiner ausfallen.

Die genaue Power-Management-Maßnahme hängt von der Infrastruktur und den Serviceanforderungen ab.

Wie sollten Kühlkosten berücksichtigt werden?

Das Verschieben einer großen Workload verändert sowohl die Wärmelast als auch die IT-Leistung.

Das Energiemodell der Quelle verbindet Leistung und Kühlung auf Facility-Ebene über PUE und Zonenenergie.

Eine Verschiebung zu Niedertarifstrom kann auch den Kühlbedarf verschieben.

Das kann die gesamte Facility-Energie beeinflussen.

Die Quelle definiert kein prädiktives Kühlkostenmodell für jede einzelne Workload.

Eine praktische Berechnung kann bei der IT-Energie beginnen und dann die genehmigte Facility-Allokationsmethode verwenden, falls die Organisation Kühl-Overhead in das Kostenmodell einbezieht.

Für die zugrunde liegende Messhierarchie erklärt wie Organisationen den Serverstromverbrauch auf Geräte-, Rack- und Rechenzentrumsebene überwachen und verwalten können, wie Geräteenergie, Racklast und Facility-Energie miteinander verbunden bleiben.

Wie sollten verschiedene Rechenzentren verglichen werden?

Wenn das Unternehmen mehrere Standorte mit unterschiedlichen Tarifen hat, kann energiebewusstes Scheduling neben einer Zeitfrage auch zu einer Standortfrage werden.

Die Quelle unterstützt standortübergreifende Ressourcenansichten und Energiedaten, definiert aber keinen automatischen standortübergreifenden Energie-Scheduler als fertige Fähigkeit in jeder Bereitstellung.

Der quellenbasierte Ansatz besteht darin, zu vergleichen:

Ressourcenverfügbarkeit
Strompreis
Netzwerkanforderung
Datenstandort
Service-Latenz
Kapazität
Kühleffizienz

bevor Arbeit zwischen Standorten verschoben wird.

Verschieben Sie eine Workload nicht zu einem günstigeren Standort, wenn Datenübertragungs- oder Service-Einschränkungen die Verschiebung unpraktikabel machen.

Wie sollten Projekte Stromeinsparungen sehen?

Ordnen Sie die verschobene Workload und die Einsparung dem Projekt zu.

Das Metering-Modell der Quelle weist Compute- und Token-Verbrauch bereits nach Projekt und Mandant zu.

Die v3.2-Energieansicht rangiert die Leerlaufleistung nach Projekt und berechnet Niedertarif-Einsparungen.

Ein Projektbericht kann daher zeigen:

Kosten des ursprünglichen Zeitplans
Kosten des verschobenen Zeitplans
Geschätzte oder realisierte Einsparung
Verbrauchte Energie
Genutzte Ressource

Das gibt Teams einen Beleg dafür, dass Zeitplanflexibilität finanziellen Wert hat.

Wie sollten realisierte Einsparungen verifiziert werden?

Vergleichen Sie die Prognose mit dem tatsächlichen Lauf.

Messen Sie nach Abschluss der Aufgabe:

Tatsächlicher Start und Abschluss
Tatsächliche Energie
Tatsächliche Tarifperioden
Tatsächliche Kosten
Tatsächliches Serviceergebnis

Das Betriebsmodell der Quelle betont, den Kreis zu schließen, indem Ausführungsergebnisse zurück in Monitoring und Analyse einfließen.

Das ist hier wichtig.

Eine geplante Einsparung sollte erst dann als realisierte Einsparung gemeldet werden, wenn die tatsächliche Nutzung sie bestätigt.

Wie sollten energiebewusste Empfehlungen gesteuert werden?

Empfehlungen können automatisiert werden.

Die Ausführung sollte den Scheduling- und Autorisierungsregeln folgen.

Die Plattform der Quelle trennt durchgängig Analyse von Produktionsaktion.

Eine Empfehlung kann lauten:

„Verschiebe Trainingsjob A vom 18:00-Hochtarif-Fenster in das 23:00-Niedertarif-Fenster. Erwartete Einsparung: X."

Der Projektinhaber oder eine Richtlinie kann die Änderung genehmigen.

Der Scheduler führt dann den genehmigten Plan aus.

Das erhält die Nachvollziehbarkeit.

Was sollte ein energiebewusstes Scheduling-Dashboard zeigen?

Eine praktische Ansicht kann zeigen:

Aktuelle Tarifperiode
Nächstes Niedertarif-Fenster
Strompreis
Flexible Workloads in der Warteschlange
Geschätzte Job-Dauer
Benötigte Ressourcen
Aktuelle und vorgeschlagene Kosten
Erwartete Einsparung
Deadline
Kapazität im Zielfenster
Genehmigungsstatus
Realisierte Einsparung

Ein Plattformbeispiel, das Tarifperioden, GPU-Leistung, Projektzuordnung und unterbrechbares Scheduling miteinander verbindet, ist Sensaka.

Würde ich eine zeitvariable Optimierung umsetzen, würde ich mit Jobs beginnen, die bereits flexibel und leicht zu verschieben sind. Messen Sie zuerst ihre tatsächliche Energie, laden Sie den echten Tarif, berechnen Sie die Einsparung transparent und verifizieren Sie das Ergebnis nach der Ausführung. Das sinnvolle Ziel ist nicht „alles nachts laufen zu lassen". Es ist, „die Arbeit zu verschieben, deren Timing flexibel genug ist, dass der niedrigere Strompreis eine echte Einsparung erzeugt, ohne ein neues Kapazitäts- oder Zuverlässigkeitsproblem zu schaffen".