Nvidia Blackwell GPU’s verbruiken onder volledige belasting tussen de 700 en 1.200 watt per kaart, afhankelijk van het specifieke model. De B200 heeft een TDP van 700W, terwijl de GB200 in een NVL72-configuratie gemiddeld 1.200W per GPU kan bereiken. Dit Nvidia Blackwell GPU-wattage ligt aanzienlijk hoger dan vorige generaties en heeft directe gevolgen voor de koeling, voeding en totale infrastructuurkosten van elk datacenter dat deze hardware wil inzetten.

In dit artikel beantwoorden we de meest gestelde vragen over het Blackwell GPU-stroomverbruik: van welke modellen het meest verbruiken tot wat dit betekent voor de TCO van een AI-infrastructuur.

Welke Blackwell GPU’s verbruiken het meeste stroom?

De Nvidia GB200 is de meest energiehongerige Blackwell GPU, met een TDP van circa 1.200 watt in een NVL72-rack. De B200 SXM heeft een TDP van 700W, terwijl de B200 PCIe-variant iets lager uitkomt op 600W. De GB200 combineert twee B200 GPU-dies met een Grace CPU en is specifiek ontworpen voor grootschalige AI-training en inferentie.

Ter vergelijking: de B100, de instapvariant binnen de Blackwell-familie, heeft een TDP van 700W, vergelijkbaar met de B200 SXM, maar levert minder rekenkracht per watt bij de zwaarste AI-workloads. De keuze tussen modellen hangt sterk af van de workload: voor LLM-training op grote schaal is de GB200 dominant, maar voor inferentie of gemengde workloads zijn de B200 en B100 vaak efficiënter in verhouding tot het verbruik.

Belangrijk om te weten: fabrikanten mogen GPU’s ook buiten de standaard-TDP laten opereren via zogenaamde “power limits.” Supermicro Blackwell-servers bieden hier specifieke configuratiemogelijkheden voor, zodat het verbruik afgestemd kan worden op de beschikbare infrastructuur.

Hoe verschilt het stroomverbruik van Blackwell van Hopper?

Het Blackwell GPU-stroomverbruik ligt gemiddeld 40 tot 70 procent hoger dan de Hopper-generatie. De Nvidia H100 SXM had een TDP van 700W, vergelijkbaar met de B200. Maar de GB200 overtreft dit met 1.200W per GPU, terwijl de rekenprestaties per watt juist zijn verbeterd dankzij de nieuwe architectuur.

Dit lijkt tegenstrijdig, maar de logica is helder: Blackwell levert per watt meer AI-rekenkracht dan Hopper. Voor taken zoals LLM-training en grootschalige inferentie betekent dit dat je met minder GPU’s hetzelfde werk kunt doen, mits de infrastructuur het verhoogde verbruik aankan. De verhouding tussen prestatie en energieverbruik is bij Blackwell gunstiger, maar de absolute stroomafname per systeem is fors gestegen.

Voor organisaties die upgraden van een Hopper-omgeving is het essentieel om de bestaande voedings- en koelingsinfrastructuur opnieuw te beoordelen voordat Blackwell-hardware wordt ingezet.

Wat betekent dit verbruik voor de koeling van een datacenter?

Een Nvidia Blackwell GPU met 700 tot 1.200 watt TDP vereist vloeistofkoeling in vrijwel alle serieuze deployments. Luchtkoeling is bij de GB200 praktisch onhaalbaar op rackschaal, en zelfs bij de B200 zijn de thermische eisen zo hoog dat traditionele luchtgekoelde setups snel hun grenzen bereiken.

Nvidia en Supermicro hebben de GB200 NVL72 specifiek ontworpen voor directe vloeistofkoeling (Direct Liquid Cooling, DLC). Hierbij wordt koelwater direct langs de GPU-koelblokken geleid, wat aanzienlijk efficiënter is dan lucht. Datacenters die Blackwell willen inzetten zonder bestaande vloeistofkoelingsinfrastructuur, moeten rekening houden met aanzienlijke aanpassingskosten.

Daarnaast stijgt de PUE (Power Usage Effectiveness) van een datacenter naarmate de warmteproductie per rack toeneemt. Een goed ontworpen vloeistofkoelingsysteem kan de PUE laag houden, maar dit vereist vooruitdenken bij het ontwerp van de serverinfrastructuur. Onze AI-infrastructuuroplossingen houden hier standaard rekening mee.

Hoeveel stroom verbruikt een volledig Blackwell-serverrack?

Een volledig uitgerust GB200 NVL72-rack verbruikt tot 120 kilowatt aan elektrisch vermogen. Dit is het gecombineerde verbruik van 72 GPU’s, de bijbehorende Grace CPU’s, netwerkinfrastructuur en koelingscomponenten. Ter vergelijking: een traditioneel datacenter-rack verbruikt gemiddeld 5 tot 15 kilowatt.

Voor een B200-gebaseerd rack met acht GPU’s ligt het verbruik lager, doorgaans tussen de 8 en 12 kilowatt per server, maar bij een volledig gevuld rack van meerdere servers loopt dit snel op naar 60 tot 80 kilowatt of meer. Dit heeft directe gevolgen voor de elektrische aansluitcapaciteit van het datacenter en de beschikbare vermogensdichtheid per rack.

Datacenters die Blackwell willen hosten, moeten hun power distribution units (PDU’s), UPS-systemen en stroomgroepen evalueren voordat de hardware wordt geïnstalleerd. Een gefaseerde uitrol, waarbij de infrastructuur stap voor stap wordt opgeschaald, is vaak de meest praktische aanpak.

Welke voedingen zijn nodig voor Blackwell GPU-servers?

Supermicro Blackwell-servers maken gebruik van redundante voedingen van 3.000 watt of hoger, afhankelijk van de configuratie. Systemen met meerdere B200 GPU’s vereisen doorgaans twee of meer high-density PSU’s om zowel de GPU’s als de rest van het systeem van stroom te voorzien.

Voor GB200-systemen geldt een nog hogere eis: het NVL72-rack werkt met een speciaal ontworpen power shelf die het vermogen distribueert over het hele rack. Dit zijn geen standaard ATX-voedingen, maar gespecialiseerde datacenter-grade PSU’s die zijn afgestemd op de thermische en elektrische eisen van Blackwell-hardware.

Bij het configureren van een Blackwell GPU-server is het verstandig om niet alleen te kijken naar het piekvermogen van de GPU’s, maar ook naar het totale systeemverbruik inclusief CPU, geheugen, opslag en netwerkkaarten. Supermicro biedt hiervoor gevalideerde referentieconfiguraties die dit proces vereenvoudigen.

Hoe beïnvloedt het stroomverbruik de TCO van een AI-infrastructuur?

Het hoge Nvidia Blackwell GPU-wattage heeft een directe en significante impact op de Total Cost of Ownership van een AI-infrastructuur. Energiekosten vormen bij intensief gebruik een groot deel van de operationele uitgaven, en bij 700 tot 1.200 watt per GPU lopen deze kosten snel op over de levensduur van het systeem.

De TCO-berekening van een Blackwell-omgeving omvat minimaal de volgende componenten:

  • Aanschafkosten hardware: De prijzen voor Blackwell GPU’s liggen door de hoge marktvraag en schaarste aanzienlijk hoger dan bij vorige generaties. De markt wordt beïnvloed door grote inkopers die complete productielijnen reserveren, wat de beschikbaarheid en prijsvorming voor andere afnemers onder druk zet.
  • Energiekosten: Bij continu gebruik van een GB200 NVL72-rack kan de jaarlijkse energierekening oplopen tot aanzienlijke bedragen, afhankelijk van de lokale energieprijzen en de PUE van het datacenter.
  • Koelingsinfrastructuur: Vloeistofkoeling vereist een initiële investering die bij luchtgekoelde systemen niet nodig was.
  • Netwerk en opslag: Blackwell GPU’s vereisen hoge-bandbreedte-interconnects zoals InfiniBand of NVLink, wat de infrastructuurkosten verder verhoogt. Onze opslagoplossingen zijn hier specifiek op afgestemd.

Aan de andere kant biedt Blackwell ook TCO-voordelen: de hogere rekenprestaties per GPU betekenen dat je minder systemen nodig hebt voor dezelfde workload. Dit verlaagt de licentiekosten, vermindert de benodigde rackruimte en kan de operationele complexiteit reduceren. Een zorgvuldige TCO-analyse, waarbij prestatie per watt centraal staat, geeft een eerlijker beeld dan een vergelijking op basis van aanschafprijs alleen.

Wij adviseren organisaties altijd om de volledige levenscyclus van de hardware mee te nemen in de afweging. Met 38 jaar Supermicro-expertise helpen wij bij NCS International bij het samenstellen van een configuratie die technisch optimaal is en financieel verantwoord, zowel nu als op de langere termijn.

Veelgestelde vragen

Kan ik Blackwell GPU's ook inzetten in een bestaand datacenter zonder vloeistofkoeling?

Dat is technisch mogelijk voor de B200 PCIe-variant, maar het is sterk afhankelijk van de koelcapaciteit van uw huidige infrastructuur. Luchtgekoelde omgevingen kunnen de thermische belasting van 600 tot 700W per GPU in beperkte mate aan, maar u loopt al snel tegen de grenzen van traditionele rack-airflow aan. Voor de GB200 en grootschalige deployments is een upgrade naar directe vloeistofkoeling vrijwel onvermijdelijk. Het is verstandig om eerst een thermische analyse van uw bestaande datacenteromgeving te laten uitvoeren voordat u investeert in Blackwell-hardware.

Hoe bereken ik hoeveel stroomcapaciteit mijn datacenter nodig heeft voor een Blackwell-deployment?

Begin met het optellen van de TDP van alle GPU’s in uw configuratie en voeg daar 20 tot 30 procent bovenop voor het totale systeemverbruik van CPU’s, geheugen, opslag en netwerkhardware. Houd daarnaast rekening met een redundantiemarge van minimaal 20 procent bovenop het piekvermogen voor uw PDU’s en UPS-systemen. Voor een rack met acht B200 SXM GPU’s (8 × 700W = 5.600W aan GPU-verbruik) betekent dit al snel een totale stroomcapaciteit van 8 tot 12 kilowatt per server. Een gespecialiseerde partner zoals NCS International kan u helpen met een nauwkeurige vermogensberekening op basis van uw specifieke configuratie.

Wat is het verschil in energiekosten tussen een B200- en een GB200-configuratie op jaarbasis?

Het verschil kan aanzienlijk zijn: een GB200 in een NVL72-rack verbruikt tot 120 kilowatt, terwijl een B200-server met acht GPU’s doorgaans tussen de 8 en 12 kilowatt verbruikt. Bij een Nederlandse energieprijs van circa €0,10 per kWh voor zakelijke afnemers en continu gebruik loopt het jaarlijkse energieverschil per rack al snel op tot honderdduizenden euro’s. De hogere rekenprestaties van de GB200 kunnen dit echter rechtvaardigen als u de workload analyseert op prestatie per euro energiekosten in plaats van puur op wattage. Een TCO-analyse over de volledige levensduur van de hardware geeft hier het meest eerlijke beeld van.

Wat zijn de meest gemaakte fouten bij het plannen van een Blackwell GPU-infrastructuur?

De meest voorkomende fout is het onderschatten van de totale infrastructuurkosten door uitsluitend naar de aanschafprijs van de GPU’s te kijken. Organisaties vergeten regelmatig de kosten voor vloeistofkoelingsaanpassingen, versterkte stroomgroepen, gespecialiseerde PDU’s en hoge-bandbreedte-netwerkinfrastructuur zoals InfiniBand mee te nemen. Een tweede veelgemaakte fout is het niet valideren van de bestaande datacenteraansluiting: een GB200 NVL72-rack vereist een elektrische aansluiting die de meeste traditionele datacenters niet standaard bieden. Plan daarom altijd een volledige infrastructuuraudit in vóórdat de hardware wordt besteld.

Is het mogelijk om het stroomverbruik van Blackwell GPU's te beperken zonder in te leveren op prestaties?

Ja, via zogenaamde power limits kunt u het maximale vermogen van een Blackwell GPU softwarematig begrenzen, wat nuttig is als uw infrastructuur het piekvermogen niet aankan. Supermicro Blackwell-servers bieden hiervoor specifieke configuratieopties in het BIOS en via beheertools. Het nadeel is dat een lagere power limit ook de maximale kloksnelheid en rekenprestaties van de GPU beperkt, waardoor de workload langer duurt. Voor inferentie-workloads is dit compromis vaak acceptabel; voor intensieve LLM-training is het minder wenselijk.

Hoe lang duurt het typisch om een datacenter klaar te maken voor Blackwell-hardware?

De doorlooptijd voor een volledige infrastructuurupgrade richting Blackwell-readiness varieert sterk, maar reken bij een bestaand datacenter zonder vloeistofkoeling op een traject van drie tot zes maanden voor de aanpassingen aan koeling, stroominfrastructuur en netwerkbekabeling. Als er ook bouwkundige aanpassingen nodig zijn voor de vloeistofkoelingsinfrastructuur, kan dit oplopen tot negen maanden of meer. Een gefaseerde uitrol, waarbij u begint met een beperkt aantal B200-servers in een luchtgekoelde omgeving en parallel de infrastructuur uitbreidt, is vaak de meest pragmatische aanpak om snel operationeel te zijn.

Welke monitoringtools zijn beschikbaar om het stroomverbruik van Blackwell GPU's in de gaten te houden?

Nvidia biedt via de NVML-bibliotheek (Nvidia Management Library) en het bijbehorende nvidia-smi commandoregelprogramma gedetailleerde real-time inzichten in het vermogensverbruik per GPU, inclusief huidige wattage, temperatuur en kloksnelheden. Voor datacenter-brede monitoring kunt u dit integreren met platforms zoals Prometheus en Grafana, of gebruikmaken van de beheerinterfaces van Supermicro zoals IPMI en de Supermicro SuperDoctor-software. Het actief monitoren van het stroomverbruik helpt niet alleen bij het optimaliseren van de PUE, maar geeft ook vroegtijdig signalen van afwijkend gedrag dat kan wijzen op hardwareproblemen of inefficiënte workloads.

Gerelateerde artikelen

NCS International

Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl

Meer berichten

Wat is een GPU-server?

GPU-servers verwerken duizenden berekeningen parallel — ontdek wanneer ze onmisbaar zijn voor jouw organisatie.


read more

Wat is een AI-server?

Wat is een AI-server en wanneer heb je er een nodig? Ontdek de techniek, hardware en toepassingen.


read more