22 september 2026
Voor een enterprise AI-server is de minimale CPU-configuratie een moderne processor met minimaal 16 tot 32 fysieke kernen, ondersteuning voor PCIe 5.0, een hoge geheugenbandbreedte en compatibiliteit met grote hoeveelheden ECC-RAM. Dit geldt voor workloads zoals inferentie, data-preprocessing en lichtere trainingstaken. Voor zwaardere AI-workloads, waaronder LLM-training of grootschalige batchverwerking, ligt de praktische ondergrens aanzienlijk hoger. In dit artikel beantwoorden we de meest gestelde vragen over CPU-configuraties voor enterprise AI-servers.
Een enterprise AI-server heeft minimaal 16 fysieke CPU-kernen nodig voor basale AI-inferentietaken, maar in de praktijk geldt 32 kernen als realistisch minimum voor productieomgevingen. Bij AI-workloads draait het om parallelle verwerking: hoe meer kernen beschikbaar zijn voor data-preprocessing, orkestratie en CPU-gebonden taken, hoe efficiënter het systeem werkt naast eventuele GPU-acceleratie.
Het is belangrijk onderscheid te maken tussen inferentie en training. Voor inferentie, waarbij een getraind model live voorspellingen doet, zijn 16 tot 32 kernen vaak voldoende, zeker als GPU-acceleratie het zware rekenwerk overneemt. Voor AI-training, waarbij modellen iteratief worden opgebouwd op grote datasets, zijn 32 tot 64 kernen per socket realistischer. Moderne high-end processors zoals de Intel Xeon Scalable (Granite Rapids) en AMD EPYC (Genoa of Turin) bieden tot 128 kernen per socket, wat ruimte geeft voor zowel huidige als toekomstige workloads.
Kernen zijn echter niet het enige dat telt. De snelheid waarmee een CPU data naar en van het geheugen kan verplaatsen, de zogenoemde geheugenbandbreedte, bepaalt mede hoe effectief die kernen worden benut bij AI-taken.
Het verschil tussen een AI-server-CPU en een standaard server-CPU zit in geheugenbandbreedte, PCIe-connectiviteit en ondersteuning voor gespecialiseerde instructiesets. Een standaard server-CPU is geoptimaliseerd voor algemene workloads zoals databases, webservices en virtualisatie. Een AI-server-CPU is specifiek ontworpen om grote hoeveelheden data razendsnel te verwerken en te communiceren met GPU-acceleratoren.
Concreet betekent dit dat een AI-server-CPU de volgende eigenschappen heeft die een standaard processor mist of in mindere mate biedt:
Voor organisaties die investeren in een AI-serveroplossing is het kiezen van de juiste CPU-generatie dan ook geen detail, maar een fundamentele architectuurbeslissing.
De meest geschikte CPU-families voor enterprise AI-servers in 2026 zijn Intel Xeon Scalable (Granite Rapids en opvolgers), AMD EPYC (Genoa en Turin) en, voor specifieke toepassingen, Arm-gebaseerde serverprocessoren zoals Ampere Altra. Elk platform heeft specifieke sterktes afhankelijk van de workload.
Intel’s Xeon Scalable-processors zijn breed inzetbaar en bieden sterke single-threaded prestaties, uitstekende compatibiliteit met bestaande enterprise-software en ondersteuning voor Intel AMX. Dit maakt ze bijzonder geschikt voor mixed workloads waarbij AI naast traditionele enterprise-applicaties draait. Supermicro-systemen zijn historisch gezien sterk geoptimaliseerd voor Intel Xeon-platformen, met moederborden die het maximale uit deze processors halen.
AMD EPYC-processors blinken uit in kernaantal en geheugenbandbreedte. De EPYC Turin-generatie biedt tot 128 kernen per socket met ondersteuning voor DDR5 en PCIe 5.0. Dit maakt EPYC bijzonder aantrekkelijk voor workloads waarbij parallelle verwerking centraal staat, zoals data-preprocessing voor grootschalige AI-training of multi-tenant-inferentieomgevingen.
Een enterprise AI-server heeft minimaal 256 GB RAM per CPU-socket nodig voor serieuze AI-workloads. Voor inferentie met grote taalmodellen of omgevingen met meerdere gelijktijdige gebruikers is 512 GB per socket een realistischere ondergrens. De exacte hoeveelheid hangt af van de modelgrootte, het aantal parallelle processen en of GPU-VRAM als primair geheugen fungeert.
RAM speelt bij AI-servers een andere rol dan bij traditionele servers. Het fungeert als buffer tussen de opslag, de CPU en de GPU. Als een model niet volledig in GPU-VRAM past, wordt een deel in systeemgeheugen geladen, wat de RAM-behoefte sterk vergroot. Grote taalmodellen met miljarden parameters kunnen tientallen tot honderden gigabytes aan geheugen vereisen, puur voor het laden van de modelgewichten.
Daarnaast geldt: meer geheugenkanalen betekent hogere geheugenbandbreedte. Moderne enterprise-platforms ondersteunen acht of meer geheugenkanalen per socket. Volledig bezette geheugenkanalen leveren significant betere prestaties dan een systeem waarbij slechts de helft van de slots is gevuld, zelfs als de totale capaciteit gelijk is.
Voor organisaties die ook nadenken over de opslagconfiguratie rondom hun AI-server is het verstandig RAM- en opslagarchitectuur in samenhang te ontwerpen, zodat data-pipelines geen knelpunten vormen.
Een dual-socket CPU-configuratie is noodzakelijk wanneer een enkele processor onvoldoende PCIe-lanes, geheugenkanalen of rekenkracht biedt voor de gewenste AI-workload. Concreet geldt dit bij systemen met vier of meer GPU’s, bij workloads die meer dan 512 GB RAM vereisen, of bij omgevingen waarbij CPU-gebonden taken en GPU-taken simultaan en intensief plaatsvinden.
In de praktijk zijn er twee scenario’s waarbij dual-socket de voorkeur verdient boven een krachtigere single-socketconfiguratie:
Voor kleinere inferentie-workloads of compacte edge-AI-toepassingen is een krachtige single-socketconfiguratie vaak voldoende en kostenefficiënter. De keuze hangt sterk af van de specifieke workload en de verwachte groei.
Een CPU-configuratie is toekomstbestendig voor AI wanneer het platform ondersteuning biedt voor de nieuwste interconnectstandaarden, voldoende uitbreidingsmogelijkheden heeft voor geheugen en opslag, en compatibel is met toekomstige GPU-generaties. De levensduur van een enterprise AI-server wordt in de praktijk vaak bepaald door het moederbord en de processorarchitectuur, niet door de GPU.
Concrete factoren die toekomstbestendigheid bepalen:
Wij adviseren klanten altijd om bij de initiële configuratie al rekening te houden met de verwachte groei van hun AI-workloads over de komende drie tot vijf jaar. Een iets hogere initiële investering in een toekomstbestendig platform is vrijwel altijd goedkoper dan een vroegtijdige vervanging van het volledige systeem. Omdat Supermicro als eerste nieuwe GPU-generaties ondersteunt, zijn Supermicro-systemen bij uitstek geschikt voor organisaties die altijd op de nieuwste hardware willen kunnen rekenen.
De keuze hangt af van uw primaire workload: kies Intel Xeon als u mixed workloads draait waarbij AI naast traditionele enterprise-applicaties zoals databases of ERP-systemen opereert, of als single-threaded prestaties en softwarecompatibiliteit prioriteit hebben. Kies AMD EPYC als parallelle verwerking, maximale kernenaantallen en geheugenbandbreedte centraal staan, bijvoorbeeld bij grootschalige data-preprocessing of multi-tenant-inferentieomgevingen. In twijfelgevallen is het verstandig een proof-of-concept te draaien met uw eigen workload op beide platformen, zodat u op basis van meetbare prestaties beslist in plaats van op papieren specificaties.
De meest voorkomende fout is het onderschatten van geheugenbandbreedte ten opzichte van kernaantal: organisaties kiezen een processor met veel kernen maar vullen slechts de helft van de geheugenslots, waardoor de beschikbare bandbreedte dramatisch daalt en de CPU zijn potentieel niet benut. Een tweede veelgemaakte fout is het negeren van het PCIe-lane budget bij het plannen van GPU-uitbreiding, waardoor systemen bij een latere schaalstap tegen hardwarematige knelpunten aanlopen. Tot slot wordt toekomstbestendigheid vaak onderschat: een moederbord kiezen dat slechts één CPU-generatie ondersteunt, kan betekenen dat u het volledige systeem eerder moet vervangen dan nodig.
Dit hangt volledig af van het huidige moederbord en de processorarchitectuur: als uw bestaand platform socketcompatibel is met een modernere CPU-generatie die PCIe 5.0 en DDR5 ondersteunt, is een CPU-upgrade soms mogelijk zonder volledige systeemvervanging. In de praktijk geldt echter dat oudere serverplatformen (voor 2023) doorgaans geen PCIe 5.0 of DDR5 ondersteunen, waardoor een upgrade naar een volwaardig AI-platform een nieuw moederbord en nieuw geheugen vereist. Laat uw huidige hardwareconfiguratie beoordelen door een specialist voordat u investeert, zodat u weet of een gedeeltelijke upgrade rendabel is of dat een volledig nieuw systeem op de lange termijn kostenefficiënter uitpakt.
Typische signalen dat de CPU een bottleneck vormt zijn: hoge CPU-bezetting (boven 80-90%) terwijl GPU-bezetting laag blijft, lange wachttijden bij data-preprocessing of het laden van batches, en merkbare vertragingen bij inferentie-requests ondanks beschikbare GPU-capaciteit. Monitoringtools zoals nvidia-smi (voor GPU-utilization), htop of Prometheus met node-exporter geven inzicht in de verhouding tussen CPU- en GPU-belasting. Als de GPU structureel op de CPU wacht voor data, is uitbreiding van het CPU-platform of optimalisatie van de data-pipeline de meest effectieve ingreep.
ECC-RAM (Error-Correcting Code) is in een enterprise AI-omgeving geen optie maar een vereiste: AI-trainingsprocessen draaien soms dagen of weken aan een stuk, en één onopgemerkte geheugenbitfout kan leiden tot corrupte modelgewichten, foutieve inferentieresultaten of een volledige systeemcrash die het trainingsproces van voren af aan doet beginnen. Alle serieuze enterprise-serverplatformen van Intel Xeon en AMD EPYC ondersteunen ECC standaard, en vrijwel alle enterprise-geheugenfabrikanten leveren DDR5-modules met ECC-ondersteuning. De meerkosten van ECC-RAM zijn verwaarloosbaar ten opzichte van de risico’s en productiviteitsverliezen die niet-ECC-geheugen met zich meebrengt in een productie-AI-omgeving.
Een moderne GPU gebruikt idealiter een x16 PCIe-verbinding, wat 16 lanes per GPU betekent; bij vier GPU’s heeft u dus minimaal 64 dedicated PCIe-lanes nodig voor optimale GPU-bandbreedte. High-end single-socket processors bieden doorgaans 64 tot 96 PCIe 5.0-lanes, maar die moeten ook worden gedeeld met NVMe-opslag en netwerkkaarten, waardoor het budget snel krap wordt bij vier of meer GPU’s. Bij systemen met acht GPU’s is een dual-socket configuratie of een platform met een dedicated PCIe-switch (zoals NVSwitch in NVIDIA DGX-systemen) vrijwel altijd noodzakelijk om bandbreedteknelpunten te vermijden.
Voor een toekomstbestendige single-socket AI-serverconfiguratie met een high-end Xeon of EPYC-processor, 512 GB DDR5 ECC-RAM en een PCIe 5.0-platform moet u rekenen op een investering van ruwweg €8.000 tot €15.000 voor alleen het CPU-subsysteem (processor, moederbord en geheugen), afhankelijk van het gekozen platform en kernaantal. Een dual-socket configuratie met maximale geheugenbezetting kan oplopen tot €25.000 tot €40.000 voor het CPU-subsysteem, exclusief GPU’s, opslag en behuizing. Deze investering betaalt zich terug doordat een goed gedimensioneerd platform drie tot vijf jaar meegaat zonder knelpunten, terwijl een ondergeconfigureerd systeem vaak al na één tot twee jaar uitbreiding of vervanging vereist.
Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl
GPU-servers verwerken duizenden berekeningen parallel — ontdek wanneer ze onmisbaar zijn voor jouw organisatie.
Wat is een AI-server en wanneer heb je er een nodig? Ontdek de techniek, hardware en toepassingen.
