7 augustus 2026
Voor AI-workloads heb je opslag nodig die snel, betrouwbaar en schaalbaar is. De minimale vereisten hangen af van het type workload, maar over het algemeen geldt: hoge doorvoersnelheid voor datasetoverdracht, lage latency voor modeltraining en inferentie, en voldoende capaciteit voor grote datasets en checkpoints. NVMe-gebaseerde opslagoplossingen zijn tegenwoordig de standaard voor serieuze AI-omgevingen, aangevuld met gelaagde opslag voor minder tijdgevoelige data.
Een GPU-server die op data wacht, is een dure vorm van stilstand. Wanneer je opslag niet snel genoeg is om je GPU’s van data te voorzien, draait je rekenhardware op een fractie van zijn capaciteit. Dit noemen we een storagebottleneck, en het is een van de meest voorkomende redenen waarom AI-projecten langer duren dan gepland. De oplossing is niet altijd om meer hardware te kopen, maar om slim te kijken waar de vertraging zit: is het de schijfsnelheid, de netwerkverbinding naar de opslag, of de manier waarop data tijdens training wordt geladen?
Veel organisaties beginnen met een AI-project op basis van een kleine dataset en schatten de opslagbehoefte te laag in. Zodra modellen groeien, datasets worden uitgebreid en checkpoints worden opgeslagen, loop je snel tegen limieten aan. Opslag achteraf bijkopen is niet alleen duurder, het verstoort ook de architectuur van je omgeving. Beter is het om vanaf het begin rekening te houden met de volledige levenscyclus van je data: ruwe data, verwerkte data, trainingsdata, modelgewichten en back-ups. Dat geeft je een realistisch beeld van wat je echt nodig hebt.
AI-workloads stellen hoge eisen aan opslag omdat ze grote hoeveelheden data snel en herhaaldelijk moeten lezen. Tijdens modeltraining worden datasets meerdere keren doorlopen, wat een hoge doorvoersnelheid vereist. Tegelijkertijd moeten modelgewichten en tussenresultaten snel worden opgeslagen en teruggeladen. Standaardopslag is hier simpelweg niet op gebouwd.
Bij deep learning en LLM-training gaat het om datasets die gemakkelijk tientallen tot honderden terabytes beslaan. Elke trainingsepoch laadt die data opnieuw in, wat betekent dat je opslag continu onder druk staat. Daar komen de tussentijdse checkpoints bij: snapshots van het model die je opslaat zodat je een training kunt hervatten na een storing. Die checkpoints kunnen op zichzelf al tientallen gigabytes per stuk zijn.
Naast capaciteit speelt latency een grote rol. Bij inferentie, het daadwerkelijk uitvoeren van een getraind model, wil je zo snel mogelijk een antwoord. Als de modelgewichten traag vanuit opslag worden geladen, merkt de eindgebruiker dat direct. Hoge IOPS (invoer-/uitvoerbewerkingen per seconde) en lage latency zijn daarom geen luxe, maar een basisvereiste voor productie-AI-omgevingen.
De benodigde opslagcapaciteit voor een AI-omgeving varieert sterk, maar reken minimaal op tientallen terabytes voor kleinere projecten. Voor grootschalige LLM-training of multimodale modellen met beeld en audio loopt dit al snel op naar honderden terabytes of meerdere petabytes. De exacte behoefte hangt af van de datasetgrootte, de modelomvang en de retentietijd.
Een handige manier om je capaciteitsbehoefte in te schatten is door te rekenen met vier lagen:
Tel die vier lagen bij elkaar op en voeg daar een groeimarge van minimaal 30 tot 50 procent aan toe. AI-projecten groeien bijna altijd sneller dan verwacht, zeker als je experimenten gaat draaien of meerdere modelversies parallel wilt bijhouden.
NVMe, SAS en SATA zijn drie verschillende interfaces voor opslagmedia, elk met een ander snelheids- en kostenprofiel. NVMe is verreweg het snelst en het meest geschikt voor AI-workloads. SAS biedt een middenweg voor gedeelde opslag in enterprise-omgevingen. SATA is het traagst en het goedkoopst, geschikt voor archivering maar niet voor actieve AI-training.
NVMe-schijven communiceren direct via de PCIe-bus met de processor, wat resulteert in zeer lage latency en hoge IOPS. Voor het laden van trainingsdata en het opslaan van checkpoints is dit het meest geschikte formaat. Moderne NVMe-drives halen sequentiële leessnelheden van meerdere gigabytes per seconde.
SAS-schijven zijn robuuster dan SATA en worden veel gebruikt in gedeelde opslagsystemen (NAS of SAN). Ze zijn minder snel dan NVMe, maar bieden een goede betrouwbaarheid en zijn geschikt voor gedeelde datasets die door meerdere servers tegelijk worden gebruikt. SATA-schijven zijn het meest geschikt als goedkope opslag voor data die je zelden actief gebruikt, zoals oude trainingssets of back-ups.
Voor AI-workloads werkt een gelaagde opslagarchitectuur het best. Actieve trainingsdata staat op snelle lokale NVMe-opslag, gedeelde datasets op een parallel bestandssysteem of een high-speed NAS, en koude data op goedkopere objectopslag of SATA-arrays. Deze aanpak combineert snelheid waar het nodig is met kostenefficiëntie waar het kan.
Lokale NVMe-opslag direct in de GPU-server geeft de laagste latency en de hoogste doorvoer. Dit is ideaal voor data die actief wordt gebruikt tijdens een trainingsstap. Nadeel is dat lokale opslag niet gemakkelijk te delen is tussen meerdere servers.
Voor multi-node training, waarbij meerdere GPU-servers samenwerken aan één model, heb je gedeelde opslag nodig. Parallelle bestandssystemen zoals Lustre of GPFS zijn hiervoor gebouwd. Ze schalen horizontaal en kunnen hoge bandbreedtes leveren aan tientallen servers tegelijk. Voor kleinere omgevingen volstaat een goed geconfigureerde NFS- of SMB-opslag met NVMe-backing.
Objectopslag, zoals S3-compatibele systemen, is geschikt voor het bewaren van grote hoeveelheden ruwe data. Veel AI-frameworks kunnen rechtstreeks vanuit objectopslag laden, wat de architectuur eenvoudiger maakt en kosten bespaart op dure primaire opslag.
Opslagsnelheid bepaalt hoe snel data aan de GPU’s wordt aangeleverd. Als de opslag trager is dan de verwerkingscapaciteit van je GPU’s, ontstaat er een bottleneck: de GPU’s wachten op data in plaats van te rekenen. Dit verlaagt de GPU-benutting direct en verlengt de trainingsduur aanzienlijk.
De verhouding tussen opslagbandbreedte en GPU-rekencapaciteit is een van de belangrijkste balansen in een AI-systeem. Moderne GPU-clusters kunnen enorme hoeveelheden data per seconde verwerken. Als je opslag die snelheid niet bijhoudt, betaal je voor rekenkracht die je niet volledig benut.
Prefetching en caching zijn technieken die helpen om dit probleem te beperken. Daarbij laad je data alvast in het geheugen voordat de GPU erom vraagt. Maar ook deze technieken hebben hun grenzen: als de onderliggende opslag te traag is, helpt geen enkele softwareoptimalisatie volledig. De juiste hardware is de basis.
De meest voorkomende opslagfouten die AI-prestaties verlagen zijn: het gebruik van SATA-schijven voor actieve training, onvoldoende IOPS voor parallelle dataladingen, het ontbreken van een gelaagde opslagstrategie, en het onderschatten van de opslagbehoefte waardoor schijven te vol raken en trager worden.
Een volle schijf is langzamer dan een schijf met voldoende vrije ruimte, zeker bij NVMe-drives die schrijfbewerkingen intern herverdelen. Houd altijd minimaal 20 procent vrije ruimte aan op je primaire opslag. Veel teams vergeten dit mee te nemen in hun capaciteitsplanning.
Een andere veelgemaakte fout is het gebruik van één grote, gedeelde opslagpool voor zowel actieve training als back-ups. Dit zorgt ervoor dat back-upprocessen de beschikbare bandbreedte opslokken op het moment dat je training draait. Splits deze workloads fysiek of plan ze op verschillende momenten.
Tot slot onderschatten veel organisaties de impact van het netwerk tussen opslag en compute. Zelfs de snelste NVMe-array levert teleurstellende resultaten als het netwerk daartussen een bottleneck is. Voor serieuze AI-omgevingen is 25 GbE een minimum; 100 GbE of InfiniBand is beter als je met grote modellen of multi-node training werkt.
Wil je weten welke opslagoplossingen het beste passen bij jouw AI-omgeving? Of heb je een specifieke vraag over de configuratie van je huidige infrastructuur? Bij ons kun je altijd terecht voor advies zonder omwegen. Neem contact op met ons team en we denken graag met je mee.
Je kunt dit meten door de GPU-benutting te monitoren tijdens een trainingsrun. Als je GPU’s regelmatig onder de 80-90% benutting zitten terwijl de training actief is, is een storagebottleneck een waarschijnlijke oorzaak. Tools zoals nvidia-smi, iostat en iotop helpen je om zowel GPU-gebruik als schijf-I/O gelijktijdig te monitoren. Als de schijfactiviteit consistent op 100% staat terwijl je GPU’s wachten, is het tijd om je opslaginfrastructuur te herzien.
Voor een eerste serieuze AI-omgeving raden we aan te starten met minimaal één of twee lokale NVMe-schijven in de GPU-server voor actieve trainingsdata, aangevuld met een NAS-oplossing met NVMe-backing voor gedeelde datasets. Zorg dat het netwerk minimaal 25 GbE ondersteunt en plan direct opslagcapaciteit in voor alle vier de lagen: ruwe data, verwerkte data, modelopslag en back-ups. Begin liever met iets meer capaciteit dan je denkt nodig te hebben, want uitbreiden achteraf is altijd duurder en complexer.
Objectopslag is geschikt voor het bewaren en laden van ruwe datasets, maar is over het algemeen niet ideaal als primaire opslag voor actieve modeltraining vanwege de hogere latency bij willekeurige leesbewerkingen. Een goede aanpak is om je ruwe data in objectopslag te bewaren en die data vooraf te kopiëren naar lokale NVMe-opslag voordat de training start. Sommige moderne AI-frameworks, zoals PyTorch met WebDataset, kunnen objectopslag wel efficiënt streamen, maar dit vereist een goede netwerkverbinding en zorgvuldige configuratie.
Sla niet elke checkpoint permanent op, maar hanteer een rotatiebeleid: bewaar bijvoorbeeld alleen de laatste drie tot vijf checkpoints en de checkpoint met de beste validatieprestaties. Schrijf checkpoints bij voorkeur naar een aparte opslaglaag dan je actieve trainingsdata, zodat het schrijfproces de datatoevoer naar je GPU’s niet verstoort. Overweeg ook om checkpoints direct na het opslaan te comprimeren en te verplaatsen naar goedkopere opslag, zodat je primaire NVMe-opslag vrij blijft voor actieve workloads.
RAID-configuraties kunnen zowel de prestaties als de betrouwbaarheid beïnvloeden, afhankelijk van het gekozen niveau. RAID 0 biedt de hoogste snelheid door striping, maar biedt geen redundantie; bij een schijfuitval verlies je alle data. RAID 10 combineert snelheid en redundantie en is een populaire keuze voor actieve AI-trainingsopslag. Voor NVMe-omgevingen worden ook softwarematige oplossingen zoals ZFS of mdadm steeds vaker ingezet, omdat ze flexibeler zijn en vergelijkbare prestaties bieden. Bespreek de juiste RAID-keuze altijd in samenhang met je back-upstrategie.
Gebruik storage-quota per project of team om te voorkomen dat één project alle beschikbare ruimte opslokt en andere projecten blokkeert. Implementeer daarnaast Quality of Service (QoS)-instellingen op je opslagsysteem om bandbreedte eerlijk te verdelen tussen gelijktijdige workloads. Houd een centraal overzicht bij van datasetversies en modelgewichten, en spreek een duidelijk retentiebeleid af: welke data mag worden verwijderd na afloop van een project en welke moet worden gearchiveerd. Dit voorkomt onnodige capaciteitsgroei en houdt de infrastructuur beheersbaar.
Een parallel bestandssysteem wordt relevant zodra je met meerdere GPU-servers tegelijk aan één model traint en de gedeelde opslag een bottleneck wordt voor de gezamenlijke datatoevoer. Als je merkt dat je netwerk- of opslagbandbreedte niet meer voldoende is om alle nodes gelijktijdig van data te voorzien, is dit het moment om Lustre of GPFS te overwegen. Voor kleinere omgevingen met één of twee GPU-servers volstaat een goed geconfigureerde NFS- of SMB-oplossing met NVMe-backing doorgaans prima. De overstap naar een parallel bestandssysteem brengt ook extra beheerscomplexiteit met zich mee, dus weeg de prestatievoordelen altijd af tegen de operationele kosten.
Deze inhoud is gegenereerd met behulp van AI en kan fouten bevatten.
Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl
GPU-servers verwerken duizenden berekeningen parallel — ontdek wanneer ze onmisbaar zijn voor jouw organisatie.
Wat is een AI-server en wanneer heb je er een nodig? Ontdek de techniek, hardware en toepassingen.
