31 maart 2026
Een server met een NVIDIA H100 is een serieuze investering. De prijs varieert sterk afhankelijk van het model, het aantal GPU’s, het geheugen en de configuratie, maar reken grofweg op een bedrag tussen de tienduizenden en honderdduizenden euro’s per systeem. Omdat de markt voor H100-hardware volatiel is en de vraag het aanbod regelmatig overtreft, kunnen prijzen snel oplopen. In dit artikel leggen we uit wat je moet weten voordat je een beslissing neemt.
De NVIDIA H100 is een datacenter-GPU op basis van de Hopper-architectuur, ontworpen voor intensieve AI-workloads, wetenschappelijk rekenwerk en high-performance computing. Hij wordt ingezet voor het trainen van grote taalmodellen (LLM’s), AI-inferentie, simulaties en dataverwerking op schaal. De H100 is momenteel een van de krachtigste GPU’s die beschikbaar zijn voor professioneel gebruik.
Wat de H100 onderscheidt van consumentenkaarten, is de combinatie van extreem hoge rekenkracht, grote HBM3-geheugenbandbreedte en ondersteuning voor NVLink, waarmee meerdere GPU’s als één geheel kunnen samenwerken. Dit maakt hem bij uitstek geschikt voor omgevingen waar snelheid en schaalbaarheid geen optie zijn, maar een vereiste. Denk aan universiteiten die klimaatmodellen draaien, payment providers die fraudedetectie in real time uitvoeren, of bedrijven die hun eigen LLM trainen.
Een server met een NVIDIA H100 kost gemiddeld tientallen tot honderden duizenden euro’s, afhankelijk van het aantal GPU’s, het serverplatform en de totale configuratie. Een systeem met één H100 PCIe zit al aan de hoge kant. Een volledig uitgeruste server met acht H100 SXM-GPU’s kan oplopen tot bedragen die voor de meeste organisaties een strategische inkoopbeslissing vereisen.
De markt voor H100-hardware is de afgelopen jaren sterk beïnvloed door schaarste. Grote techbedrijven en cloudproviders kopen hele productieruns op, waardoor de beschikbaarheid voor andere organisaties beperkt blijft en prijzen hoger uitvallen dan de officiële adviesprijs. Dit maakt het extra belangrijk om samen te werken met een distributeur die directe toegang heeft tot Supermicro-hardware en snel kan leveren.
De vraag naar H100-systemen overtreft al geruime tijd het aanbod. Bedrijven die snel willen opschalen in AI-capaciteit betalen soms aanzienlijk meer dan de catalogusprijs, simpelweg omdat de hardware niet beschikbaar is. Wie vroeg bestelt via een betrouwbare distributeur, heeft een duidelijk voordeel ten opzichte van wie wacht tot de behoefte urgent is.
Het belangrijkste verschil tussen de H100 SXM en de H100 PCIe zit in de bandbreedte en de manier waarop de GPU’s met elkaar communiceren. De SXM-variant gebruikt NVLink via een speciaal moederbord en biedt een aanzienlijk hogere geheugenbandbreedte en GPU-naar-GPU-communicatiesnelheid. De PCIe-variant is flexibeler inzetbaar en past in een breder scala aan serverplatformen.
De H100 SXM is de betere keuze voor grootschalige AI-training waarbij meerdere GPU’s intensief samenwerken. De H100 PCIe past beter bij inferentietaken, kleinere trainingsworkloads of omgevingen waarin je bestaande infrastructuur wilt benutten. Het kostenplaatje verschilt ook: SXM-systemen zijn duurder door het gespecialiseerde platform, maar leveren bij de juiste workload aanzienlijk meer prestaties per euro op.
Supermicro biedt meerdere serverplatformen die compatibel zijn met de NVIDIA H100, waaronder de SYS-421GE-TNRT en systemen uit de A+- en X13-serie. Deze systemen ondersteunen zowel de H100 PCIe als de H100 SXM, afhankelijk van het gekozen platform en de bijbehorende GPU-basisplaat.
Supermicro is als merk sterk gericht op GPU-geoptimaliseerde systemen. Ze brengen nieuwe GPU-generaties eerder op de markt dan traditionele merken als HP en Dell. Dit betekent dat je als organisatie sneller toegang hebt tot de nieuwste hardware, zonder te hoeven wachten op trage productcycli van grote merken. De systemen zijn bovendien modulair opgebouwd, wat het eenvoudiger maakt om later op te schalen of van GPU-generatie te wisselen.
Een H100-server is de juiste keuze wanneer je workloads draait die profiteren van massale parallelle rekenkracht, zoals het trainen van grote AI-modellen, grootschalige dataverwerking of wetenschappelijke simulaties. Als je primair inferentie draait of met kleinere modellen werkt, kan een minder krachtige GPU een betere prijs-prestatieverhouding bieden.
Een goede manier om dit te beoordelen is door te kijken naar je huidige en verwachte workload. Hoe groot zijn de modellen die je traint? Hoe snel moet inferentie plaatsvinden? Hoe belangrijk is GPU-naar-GPU-communicatie? Als de antwoorden op die vragen wijzen op hoge eisen, is de H100 een logische keuze. Als je twijfelt, is het verstandig om ook de NVIDIA H200 te overwegen, die een verdere stap zet in geheugenbandbreedte en capaciteit en inmiddels beschikbaar is via Supermicro-platforms.
De NVIDIA H200 bouwt voort op dezelfde Hopper-architectuur als de H100, maar voegt HBM3e-geheugen toe met een aanzienlijk hogere bandbreedte en capaciteit. Voor LLM-inferentie en workloads waarbij geheugencapaciteit een knelpunt is, levert de H200 een merkbare verbetering. Bij pure rekenkracht is het verschil kleiner. De keuze tussen een NVIDIA H100- of H200-server hangt dus sterk af van het type workload en de beschikbare budgetruimte.
Naast de aanschafprijs van de server zelf zijn er meerdere bijkomende kosten om rekening mee te houden. Denk aan netwerkapparatuur, bekabeling, stroomvoorziening, koeling, rackruimte en softwarelicenties. Voor AI-workloads komen daar vaak ook kosten bij voor opslaginfrastructuur en interconnects zoals InfiniBand.
Wie deze kosten niet meeneemt in de berekening, komt achteraf voor verrassingen te staan. Een goede leverancier helpt je deze factoren vooraf in kaart te brengen, zodat je een realistisch totaalplaatje hebt.
Een H100-server bestel je via een erkende Supermicro-distributeur door eerst je workload en vereisten in kaart te brengen: welk GPU-model, hoeveel GPU’s, welke processorconfiguratie, hoeveel geheugen en welk opslagprofiel. Op basis daarvan configureert de distributeur een systeem dat precies aansluit bij jouw situatie, nu en in de toekomst.
Bij ons, NCS International, werkt dat zo: je neemt contact op met een van onze specialisten via e-mail of Teams, deelt je technische vereisten en wij stellen een configuratie voor die past bij jouw workload en budget. Geen standaardmodellen uit een catalogus, maar een systeem dat echt voor jou gebouwd is. Als grootste, eerste en oudste Supermicro-distributeur van Nederland hebben wij directe toegang tot hardware die bij andere aanbieders op een wachtlijst staat. Bovendien zijn wij de enige partij in Nederland die 24/7 on-site garantieservice biedt voor Supermicro-systemen, zodat je nooit lang zonder zit als er iets misgaat.
Wil je weten welke configuratie het beste bij jouw situatie past? Bekijk onze serveroplossingen of neem direct contact op met ons team. We denken graag met je mee.
De levertijd van een H100-server varieert sterk door de aanhoudende schaarste op de markt. Via een directe Supermicro-distributeur zoals NCS International is de levertijd doorgaans korter dan via indirecte kanalen, omdat er directe toegang is tot voorraad die bij andere aanbieders op een wachtlijst staat. De beste manier om levertijd te verkorten is vroeg bestellen en je configuratie zo snel mogelijk definitief maken, zodat de hardware voor jou gereserveerd kan worden.
Een veelgemaakte fout is focussen op alleen de aanschafprijs zonder de totale eigendomskosten (TCO) mee te rekenen, zoals stroom, koeling, netwerk en opslag. Een andere veelvoorkomende misser is het kiezen van de verkeerde GPU-variant: een H100 PCIe aanschaffen voor grootschalige multi-GPU-training, terwijl de SXM-variant in dat geval veel efficiënter zou zijn. Tot slot onderschatten organisaties regelmatig hun toekomstige capaciteitsbehoefte, waardoor ze al snel tegen de grenzen van hun systeem aanlopen.
Ja, Supermicro-systemen zijn modulair opgebouwd, wat opschalen of upgraden aanzienlijk eenvoudiger maakt dan bij veel andere servermerken. Je kunt in veel gevallen extra GPU's, geheugen of opslagcapaciteit toevoegen zonder het gehele systeem te vervangen. Het is wel verstandig om bij de initiële configuratie al rekening te houden met toekomstige uitbreidingen, zodat het gekozen platform voldoende bandbreedte, voeding en koelcapaciteit biedt voor de gewenste groei.
Cloud-huur is voordelig voor kortlopende of onregelmatige workloads, maar bij structureel en intensief gebruik verdient on-premise hardware zichzelf doorgaans binnen één tot twee jaar terug. Bovendien geeft eigen hardware volledige controle over data, beveiliging en beschikbaarheid, wat voor veel organisaties een harde eis is. Een goede vergelijking begint bij het berekenen van je verwachte GPU-uren per jaar en die af te zetten tegen de cloud-kosten voor dezelfde capaciteit.
Voor een H100-server heb je minimaal de NVIDIA datacenter-drivers, CUDA en de bijbehorende cuDNN-bibliotheek nodig. Voor AI-workloads wordt daarnaast vaak gebruikgemaakt van frameworks zoals PyTorch of TensorFlow, en tools zoals NVIDIA NCCL voor multi-GPU-communicatie. NVIDIA biedt ook kant-en-klare containeromgevingen via NGC (NVIDIA GPU Cloud) die het opzetten van een werkende omgeving aanzienlijk versnellen.
Een volledig uitgeruste server met acht H100 SXM-GPU's kan een vermogen van 10 kilowatt of meer vereisen, afhankelijk van de configuratie. Dit stelt hoge eisen aan de stroominfrastructuur van je datacenter, inclusief PDU's, UPS-systemen en de beschikbare ampèrecapaciteit per rack. Het is sterk aan te raden om vooraf met je datacenter-provider te overleggen over de beschikbare power density, zodat je niet voor verrassingen komt te staan bij installatie.
De 24/7 on-site garantieservice houdt in dat bij een hardwarestoring een monteur ter plaatse komt om het probleem te verhelpen, ongeacht het tijdstip. Dit voorkomt de kostbare downtime die ontstaat wanneer je moet wachten op onderdelen of reparatie via de post. NCS International is de enige partij in Nederland die deze service aanbiedt voor Supermicro-systemen; neem contact op met ons team voor de exacte dekkingsvoorwaarden en responstijden die van toepassing zijn op jouw configuratie.
Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl