Supermicro Gold Series GPU-server
Maximale GPU-rekenkracht voor generatieve AI, large language models,
deep learning en high-performance computing.
Liever een NVIDIA HGX B300-platform met AMD EPYC-processoren?
Bekijk dan ook de
Supermicro AS-8126GS-NB3RT
.
De Supermicro SYS-822GS-NB3RT is ontwikkeld voor organisaties
die op grote schaal AI-modellen willen trainen, complexe
simulaties uitvoeren of grote hoeveelheden data analyseren.
Het systeem combineert acht NVIDIA HGX B300 GPU’s met twee
Intel Xeon 6700-processoren en een zeer snelle
NVIDIA NVLink- en NVSwitch-verbinding.
Hierdoor kunnen de GPU’s als één krachtige rekenomgeving
samenwerken, zonder dat communicatie tussen de GPU’s een
beperkende factor wordt.
NCS International configureert het complete systeem op basis
van jouw AI-workload, softwareomgeving, opslagbehoefte en
netwerkarchitectuur.
De SYS-822GS-NB3RT bevat een NVIDIA HGX B300-platform met acht
SXM-GPU’s. Elke GPU beschikt over 288 GB HBM3e-geheugen.
Daarmee heeft het complete systeem in totaal ongeveer 2,3 TB
snel GPU-geheugen.
De GPU’s zijn verbonden via de vijfde generatie NVIDIA NVLink
en NVSwitch, met een GPU-naar-GPU-bandbreedte tot 1,8 TB per seconde.
Dit is vooral belangrijk bij grote taalmodellen, waarbij datasets
en modelparameters over meerdere GPU’s worden verdeeld.
GPU-platform
Processorplatform
Een krachtige GPU-server heeft alleen maximale waarde als data snel
genoeg kan worden aangevoerd en resultaten zonder vertraging kunnen
worden uitgewisseld.
Daarom beschikt dit systeem over acht NVIDIA ConnectX-8 SuperNICs
met OSFP-aansluitingen. Iedere aansluiting ondersteunt een
netwerksnelheid tot 800 Gb/s.
Daarmee kan de server worden opgenomen in een omvangrijk AI-cluster
waarin meerdere GPU-systemen gezamenlijk modellen trainen of
inference-workloads uitvoeren.
Aan de voorzijde bevinden zich acht hot-swap E1.S NVMe-drivebays.
Hierdoor kunnen snelle enterprise-NVMe-drives eenvoudig worden
geplaatst en vervangen.
Voor het besturingssysteem zijn daarnaast twee interne
M.2 NVMe-slots beschikbaar. Deze ondersteunen RAID via de
Supermicro S3808N-controller.
Dataopslag
Bootopslag
Het 8U-rackmountchassis is uitgerust met maximaal twaalf
heavy-duty ventilatoren met automatische toerentalregeling.
De voeding bestaat uit zes 6.600 watt Titanium-level
voedingsmodules in een redundante 3+3-configuratie.
Hierdoor kan het systeem blijven functioneren wanneer een deel
van de voedingsmodules uitvalt of voor onderhoud wordt vervangen.
| Model | Supermicro SYS-822GS-NB3RT |
|---|---|
| Formaat | 8U rackmount |
| GPU-platform | NVIDIA HGX B300 met acht SXM-GPU’s |
| GPU-geheugen | 288 GB HBM3e per GPU, circa 2,3 TB totaal |
| GPU-interconnect | NVIDIA NVLink met NVSwitch |
| Processors | Twee Intel Xeon 6700-processoren met P-cores |
| Maximaal aantal cores | 86 cores en 172 threads per processor |
| Werkgeheugen | 32 DDR5 DIMM-slots, maximaal 8 TB |
| Netwerk | Acht 800 GbE OSFP-poorten en twee 10 GbE RJ45-poorten |
| Datadrives | Acht hot-swap E1.S NVMe-drivebays |
| Bootdrives | Twee M.2 NVMe-slots met RAID-ondersteuning |
| Uitbreiding | Twee PCIe 5.0 x16 FHHL-slots |
| Voeding | Zes redundante 6.600 watt Titanium-voedingen, 3+3 |
| Afmetingen | 356 × 449 × 950 mm |
| Nettogewicht | Circa 119 kg |
Een GPU-platform van dit formaat is geen standaardserver.
De uiteindelijke prestaties hangen sterk af van de gekozen
processors, het systeemgeheugen, de NVMe-opslag, de
netwerkarchitectuur, de stroomvoorziening en de softwarestack.
NCS International helpt bij het ontwerpen en leveren van
een complete configuratie die is afgestemd op de beoogde
AI- of HPC-workload.
Neem contact met ons op voor een configuratievoorstel,
beschikbaarheid of technisch advies.
Het systeem is ontworpen voor generatieve AI, large language
models, deep learning, inference, wetenschappelijk onderzoek,
medicijnontwikkeling, financiële analyses en HPC.
Iedere NVIDIA B300 GPU heeft 288 GB HBM3e-geheugen.
Met acht GPU’s beschikt het systeem over ongeveer 2,3 TB
gezamenlijk GPU-geheugen.
Ja. De acht NVIDIA ConnectX-8 SuperNICs met snelheden tot
800 Gb/s zijn specifiek geschikt voor snelle communicatie
tussen meerdere GPU-nodes, opslagplatforms en het datacenternetwerk.
Ja. NCS kan het systeem configureren met processors,
werkgeheugen, NVMe-opslag, netwerkcomponenten en aanvullende
hardware op basis van de gewenste workload.
Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl
