Een volledig bezet AI-rack van 40 kW vraagt om een stroomaansluiting van minimaal 63 ampère per fase bij een driefasige 400V-voeding, aangevuld met bijpassende PDU’s, gespecialiseerde koeling en een UPS-systeem met voldoende overbelastingscapaciteit. Dit vermogensniveau is inmiddels de norm voor racks gevuld met meerdere GPU-servers voor AI-training of inferentie. In dit artikel beantwoorden we de meest gestelde vragen over de stroomvereisten, koeling, kosten en infrastructuur van een 40 kW AI-rack.

Hoeveel vermogen verbruikt een GPU-server in een AI-rack?

Een moderne GPU-server voor AI-workloads verbruikt doorgaans tussen de 3 kW en 10 kW per server, afhankelijk van het aantal GPU’s, het processortype en de configuratie. Een server met acht high-end Nvidia GPU’s kan bij volledige belasting richting de 10 kW gaan. Vier tot acht van dergelijke servers vullen een rack van 40 kW volledig.

Het werkelijke stroomverbruik van een GPU-server hangt sterk af van de workload. Bij AI-training draaien GPU’s vrijwel continu op maximale belasting, wat betekent dat het piekverbruik ook het gemiddelde verbruik benadert. Bij inferentie-workloads is er meer variatie, maar de piekbelasting bepaalt nog altijd de dimensionering van de infrastructuur.

Supermicro-systemen staan bekend om hun hoge computerdichtheid, gecombineerd met energiezuinige architecturen. Toch geldt voor elk AI-rack: dimensioneer altijd op het maximale stroomverbruik, niet op het gemiddelde. Een rack dat op papier 35 kW verbruikt, kan bij piekbelasting moeiteloos 40 kW bereiken.

Wat betekent een 40 kW-rack voor de PDU en bekabeling?

Een rack van 40 kW vereist een high-density PDU (Power Distribution Unit) die minimaal dit vermogen aankan, doorgaans een driefasige PDU van 32A of 63A per fase bij 400V. De bekabeling naar het rack moet zwaarder zijn dan bij standaard IT-racks, en de aansluiting op het verdeelbord vraagt om een gedediceerde stroomgroep met bijpassende beveiliging.

Standaard PDU’s voor kantoor-IT zijn niet geschikt voor dit vermogensniveau. Bij een 40 kW AI-rack gaat het om gespecialiseerde rack-PDU’s met meerdere uitgangsgroepen, stroommonitoring per outlet en bij voorkeur remote management. Zo kun je het stroomverbruik per server realtime bewaken en vroegtijdig ingrijpen bij afwijkingen.

De bekabeling is een kritiek punt dat in de praktijk regelmatig wordt onderschat. Denk aan:

  • Zware voedingskabels van minimaal 16 mm² voor de hoofdaansluiting
  • Voldoende kabelgeleiders en trekontlasting in het rack
  • Redundante voedingspaden (A+B-feed) voor hoge beschikbaarheid
  • Aarding die voldoet aan de lokale elektrische normen

Bij de aanschaf van AI-infrastructuuroplossingen is het verstandig om de stroominfrastructuur gelijktijdig te plannen. Een PDU die te krap is gedimensioneerd, vormt een enkelvoudig storingspunt voor het hele rack.

Welke koelmethode past bij een rack van 40 kW?

Bij een rack power density van 40 kW is traditionele luchtkoeling via de gangpad-aanpak (hot aisle/cold aisle) in de meeste gevallen onvoldoende. Op dit vermogensniveau zijn rear-door heat exchangers, in-row koeling of directe vloeistofkoeling (Direct Liquid Cooling, DLC) de meest effectieve oplossingen.

Luchtkoeling werkt nog tot ongeveer 15 tot 20 kW per rack, afhankelijk van de datacenteropstelling en de luchtstroom. Boven dat niveau neemt de koelingscapaciteit per kubieke meter lucht niet snel genoeg toe om de warmteafvoer bij te houden. Bij 40 kW ontstaan hotspots die de levensduur van componenten verkorten en de betrouwbaarheid verlagen.

Rear-door heat exchangers

Een rear-door heat exchanger plaatst een watergekoelde warmtewisselaar direct achter het rack. Warme lucht die de servers verlaat, wordt direct gekoeld voordat die de ruimte ingaat. Dit is een relatief eenvoudige upgrade voor bestaande datacenters die al een koelwaterinfrastructuur hebben.

Direct Liquid Cooling

Bij DLC wordt koelwater direct naar de CPU’s en GPU’s geleid via koudeplaten. Dit is de meest efficiënte methode voor extreem hoge rackdichtheden en wordt steeds vaker toegepast bij AI-clusters. Supermicro biedt meerdere systemen met ingebouwde DLC-ondersteuning, wat de integratie in bestaande koelinfrastructuur vereenvoudigt.

Wat zijn de UPS-vereisten voor een AI-rack van 40 kW?

Een UPS voor een AI-rack van 40 kW moet minimaal 50 kVA aan capaciteit bieden, rekening houdend met een veiligheidsmarge van 20 tot 25 procent boven het maximale belastingsvermogen. Kies voor een online double-conversion UPS om volledige galvanische isolatie van het net te garanderen en spanningspieken te absorberen die GPU’s kunnen beschadigen.

De batterijautonomie is een bewuste keuze. Voor de meeste datacentertoepassingen is een autonomie van vijf tot tien minuten voldoende om een noodgenerator op te starten. Voor omgevingen zonder generator, of waar een ordelijke afsluiting van AI-trainingsprocessen cruciaal is, kan een langere autonomie wenselijk zijn.

Denk ook aan de volgende punten bij UPS-dimensionering:

  • Inrushstroom bij het opstarten van servers kan tijdelijk twee tot drie keer het nominale verbruik bedragen
  • Redundante UPS-configuraties (N+1 of 2N) verhogen de beschikbaarheid aanzienlijk
  • Modulaire UPS-systemen bieden schaalbaarheid als het rack later verder wordt uitgebouwd
  • Controleer of de UPS de hoge crestfactor van moderne voedingen aankan

Hoe bereken je de totale stroomkosten van een AI-rack per jaar?

De jaarlijkse stroomkosten van een AI-rack van 40 kW bereken je door het vermogen te vermenigvuldigen met de bedrijfsuren en de energieprijs per kWh. Bij 40 kW continu verbruik en 8.760 uur per jaar komt dat neer op 350.400 kWh per jaar. Vermenigvuldig dit met de actuele energieprijs voor uw situatie om de jaarlijkse kosten te bepalen.

Houd bij de berekening rekening met de PUE (Power Usage Effectiveness) van het datacenter. Een PUE van 1,4 betekent dat voor elke kW die de servers verbruiken, er nog eens 0,4 kW nodig is voor koeling, verlichting en overige infrastructuur. De werkelijke energieafname van het gebouw is dan 40 kW x 1,4 = 56 kW.

Energieprijzen voor zakelijke afnemers fluctueren sterk, zeker in de huidige markt. De stijgende vraag naar AI-rekencapaciteit drijft de vraag naar energie op, wat in sommige regio’s al merkbaar is in de tarieven. Het is verstandig om bij de businesscase voor een AI-rack ook scenario’s met hogere energieprijzen door te rekenen.

Wanneer is een dedicated datacenterruimte noodzakelijk voor AI-racks?

Een dedicated datacenterruimte is noodzakelijk zodra de stroombelasting, koelcapaciteit of beschikbaarheidseisen de mogelijkheden van een standaard serverruimte of kantoorinfrastructuur overstijgen. Bij een rack van 40 kW is dat vrijwel altijd het geval: de stroomaansluiting, koeling en brandblusinfrastructuur die dit vereist, zijn niet beschikbaar in een gewone serverruimte.

Een standaard kantoorgebouw heeft doorgaans een elektrische aansluiting van 3x25A of 3x63A voor de gehele etage. Een enkel AI-rack van 40 kW vraagt al om een 3x63A-aansluiting exclusief voor het rack zelf. Daarmee is de beschikbare stroomcapaciteit van een kantooromgeving vrijwel volledig opgebruikt door één rack.

Naast stroom spelen ook de volgende factoren een rol bij de keuze voor een dedicated ruimte:

  • Vloerbelasting: een volledig bezet AI-rack kan meer dan 1.000 kg wegen
  • Brandveiligheid: gasblusinstallaties zijn vereist in professionele serverruimtes
  • Toegangsbeveiliging en monitoring
  • Redundante internetverbindingen en noodstroom

Voor organisaties die AI-workloads on-premise willen draaien maar geen eigen datacenterruimte hebben, biedt colocation een goede tussenoplossing. Wij helpen bij de volledige configuratie van server- en opslagoplossingen die aansluiten op de beschikbare infrastructuur, of dat nu een eigen ruimte is of een colocatiefaciliteit. Met 38 jaar Supermicro-expertise en 24/7 on-site garantieservice zorgen wij ervoor dat uw AI-infrastructuur niet alleen correct wordt gedimensioneerd, maar ook betrouwbaar blijft draaien.

Veelgestelde vragen

Kan een bestaand datacenter eenvoudig worden omgebouwd om een 40 kW AI-rack te ondersteunen?

Een bestaand datacenter kan worden omgebouwd, maar dit vereist een grondige infrastructuuraudit voordat je begint. Controleer of de stroomverdeelkast, bekabeling, koelcapaciteit en vloerbelasting geschikt zijn voor de extra belasting. In de praktijk zijn aanpassingen aan de PDU’s, koelinfrastructuur en soms ook de hoofdaansluiting noodzakelijk. Schakel een gespecialiseerde partij in om de haalbaarheid te beoordelen voordat je hardware aanschaft.

Wat is de meest gemaakte fout bij het plannen van de infrastructuur voor een AI-rack?

De meest voorkomende fout is dimensioneren op het gemiddelde stroomverbruik in plaats van het piekverbruik. AI-workloads, en zeker GPU-intensieve trainingsprocessen, kunnen vrijwel direct van lage naar maximale belasting springen. Wie de stroominfrastructuur te krap dimensioneert, riskeert uitval van beveiliging, oververhitting of schade aan apparatuur. Plan altijd met een veiligheidsmarge van minimaal 20 procent boven het verwachte maximale verbruik.

Hoe lang duurt het gemiddeld om de infrastructuur voor een 40 kW AI-rack gereed te maken?

De doorlooptijd voor een volledige infrastructuurvoorbereiding varieert sterk, maar reken in de meeste gevallen op vier tot twaalf weken. Dit omvat het aanvragen van een verzwaarde stroomaansluiting bij de netbeheerder, de installatie van PDU’s en koeling, en eventuele bouwkundige aanpassingen. De netbeheerder is vaak de bepalende factor in de planning, dus start dit traject zo vroeg mogelijk. Colocation kan een snellere route zijn als de eigen ruimte nog niet klaar is.

Is directe vloeistofkoeling (DLC) ook geschikt voor een kleinere AI-omgeving die later wil opschalen naar 40 kW?

Ja, DLC is juist een toekomstbestendige keuze voor organisaties die gefaseerd willen opschalen. Door nu al de koelwaterinfrastructuur aan te leggen, vermijd je dure aanpassingen later wanneer de rackdichtheid toeneemt. Sommige fabrikanten, waaronder Supermicro, bieden systemen waarbij lucht- en vloeistofkoeling gecombineerd kunnen worden, wat de overgang stapsgewijs maakt. Bespreek de schaalbaarheidsstrategie bij aanvang van het project, zodat de initiële investering toekomstbestendig is.

Welke monitoringtools zijn aanbevolen om het stroomverbruik van een 40 kW AI-rack realtime bij te houden?

Voor realtime stroommonitoring zijn intelligente rack-PDU’s met per-outlet meting de basis, aangevuld met een DCIM-platform (Data Center Infrastructure Management) zoals Nlyte, Sunbird of Vertiv’s Environet. Deze tools geven inzicht in het verbruik per server, signaleren afwijkingen en helpen bij capaciteitsplanning. Koppel de monitoringdata ook aan je UPS-beheerssoftware voor een volledig beeld van de beschikbare en gebruikte capaciteit.

Wat zijn de brandveiligheidsvoorschriften waar rekening mee gehouden moet worden bij een AI-rack van dit vermogen?

In Nederland gelden voor professionele serverruimtes de eisen uit het Bouwbesluit en de NEN-EN normen voor brandbeveiliging, waaronder verplichte brandmeldinstallaties en bij voorkeur een gasblusinstallatie zoals FM-200 of Novec 1230. Een AI-rack van 40 kW genereert aanzienlijk meer warmte dan standaard IT-apparatuur, wat de kans op brandgerelateerde incidenten vergroot. Laat de brandveiligheidssituatie beoordelen door een gecertificeerd installatiebedrijf en zorg dat de verzekeraar op de hoogte is van de aanwezige apparatuur en het vermogensniveau.

Wat is het verschil in totale eigendomskosten (TCO) tussen een on-premise AI-rack en een colocatieoplossing?

Bij een on-premise AI-rack draag je zelf de kosten voor stroominfrastructuur, koeling, beveiliging en beheer, wat de initiële investering aanzienlijk verhoogt maar op lange termijn goedkoper kan uitpakken bij hoog en constant gebruik. Bij colocation betaal je een maandelijkse fee die stroom, koeling en fysieke beveiliging dekt, zonder grote kapitaalinvestering vooraf. De TCO-berekening hangt af van factoren zoals gebruiksduur, energieprijzen en interne beheercapaciteit. Voor een nauwkeurige vergelijking is het verstandig om beide scenario’s over een periode van drie tot vijf jaar door te rekenen, inclusief de PUE-impact en eventuele opschalingskosten.

Gerelateerde artikelen

NCS International

Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl

Meer berichten

Wat is een GPU-server?

GPU-servers verwerken duizenden berekeningen parallel — ontdek wanneer ze onmisbaar zijn voor jouw organisatie.


read more

Wat is een AI-server?

Wat is een AI-server en wanneer heb je er een nodig? Ontdek de techniek, hardware en toepassingen.


read more