Supermicro Gold Series GPU-server
Maximale GPU-rekenkracht voor generatieve AI, large language models,
deep learning, high-performance computing en omvangrijke
data-analyses.
Liever een vergelijkbaar NVIDIA HGX B300-platform met
Intel Xeon-processoren?
Bekijk dan ook de
Supermicro SYS-822GS-NB3RT
.
De Supermicro AS-8126GS-NB3RT is ontwikkeld voor organisaties
die zeer omvangrijke AI-modellen willen trainen, complexe
simulaties uitvoeren of grote hoeveelheden data analyseren.
Het systeem combineert een NVIDIA HGX B300-platform met acht
SXM-GPU’s en twee krachtige AMD EPYC 9005- of
9004-processoren.
Via NVIDIA NVLink en NVSwitch werken de acht GPU’s samen als
één krachtige rekenomgeving. Hierdoor kunnen omvangrijke
datasets en AI-modellen efficiënt over de GPU’s worden verdeeld.
NCS International configureert het complete systeem op basis
van jouw AI-workload, softwareomgeving, opslagbehoefte,
netwerkarchitectuur en datacenterinfrastructuur.
De AS-8126GS-NB3RT bevat een NVIDIA HGX B300-platform met acht
NVIDIA B300 SXM-GPU’s. Iedere GPU beschikt over 288 GB
HBM3e-geheugen.
Daarmee heeft het complete systeem ongeveer 2,3 TB snel
GPU-geheugen. Dit maakt het platform geschikt voor omvangrijke
taalmodellen, generatieve AI, deep-learningtraining en complexe
inference-workloads.
De GPU’s zijn onderling verbonden via de vijfde generatie
NVIDIA NVLink en NVSwitch. De GPU-naar-GPU-bandbreedte bedraagt
maximaal 1,8 TB per seconde.
GPU-platform
Processorplatform
Het systeem beschikt over 24 DIMM-slots en ondersteunt maximaal
6 TB ECC DDR5 RDIMM-geheugen.
In combinatie met AMD EPYC 9005-processoren kan het geheugen
een snelheid tot 6400 MT/s bereiken. Bij AMD EPYC 9004-processoren
ondersteunt het systeem maximaal 4800 MT/s.
De uiteindelijke geheugenconfiguratie stemmen we af op de omvang
van de datasets, de gebruikte AI-software en de verhouding tussen
CPU- en GPU-verwerking.
AMD EPYC 9005
AMD EPYC 9004
Bij grootschalige AI is niet alleen GPU-rekenkracht belangrijk.
Ook datasets, modelparameters en rekenresultaten moeten met zeer
hoge snelheid tussen servers en opslagplatforms worden uitgewisseld.
Daarom beschikt de AS-8126GS-NB3RT over acht NVIDIA ConnectX-8
SuperNICs met OSFP-aansluitingen en een snelheid tot 800 Gb/s
per aansluiting.
Daarnaast kunnen maximaal twee dual-port NVIDIA BlueField-3 DPU’s
worden toegepast. Hiermee kunnen netwerk-, beveiligings- en
infrastructuurtaken gedeeltelijk van de hoofdprocessors worden
overgenomen.
High-speed netwerk
Data Processing Units
Aan de voorzijde bevinden zich acht hot-swap E1.S
NVMe-drivebays. Hierin kunnen snelle enterprise-NVMe-drives
worden geplaatst voor datasets, modellen, tijdelijke bestanden
en lokale cache.
Voor het besturingssysteem zijn daarnaast twee interne
M.2 NVMe-slots beschikbaar. Zo kunnen de bootomgeving en
de lokale dataopslag fysiek van elkaar worden gescheiden.
Dataopslag
Bootopslag
Naast het geïntegreerde GPU- en netwerkplatform beschikt de server
over twee PCIe 5.0 x16 FHHL-uitbreidingsslots.
Deze kunnen worden gebruikt voor aanvullende netwerk-, opslag-
of acceleratiekaarten, afhankelijk van de uiteindelijke configuratie
en toepassing.
Het 8U-rackmountchassis is uitgerust met maximaal twaalf
heavy-duty ventilatoren met automatische snelheidsregeling.
De voeding bestaat uit zes hot-swap voedingsmodules van maximaal
6.600 watt, uitgevoerd in een redundante 3+3-opstelling.
De Titanium-level voedingen bieden een efficiëntie tot 96 procent.
De daadwerkelijke voedingsredundantie is afhankelijk van de gekozen
configuratie en de belasting van de toepassing.
Koeling
Voeding
De AS-8126GS-NB3RT beschikt over moderne beveiligingsfuncties
voor firmware, hardware en beheer.
Silicon Root of Trust, Secure Boot, ondertekende firmware,
automatische firmwareherstelmogelijkheden en TPM 2.0 helpen
het systeem te beschermen tegen ongeautoriseerde wijzigingen.
| Model | Supermicro AS-8126GS-NB3RT |
|---|---|
| Productserie | Supermicro Gold Series |
| Formaat | 8U rackmount |
| Moederbord | Supermicro H14DSG-OM |
| GPU-platform | NVIDIA HGX B300 met acht SXM-GPU’s |
| GPU-geheugen | 288 GB HBM3e per GPU, ongeveer 2,3 TB totaal |
| GPU-interconnect | NVIDIA NVLink met NVSwitch |
| Processors | Twee AMD EPYC 9005- of 9004-processoren |
| Maximaal aantal cores | Tot 384 cores en 768 threads |
| Maximale CPU-TDP | Tot 500 watt per processor |
| Werkgeheugen | 24 DDR5 DIMM-slots, maximaal 6 TB |
| Geheugensnelheid EPYC 9005 | Tot 6400 MT/s |
| Geheugensnelheid EPYC 9004 | Tot 4800 MT/s |
| High-speed netwerk | Acht OSFP 800 GbE-aansluitingen |
| Overig netwerk | Twee 10 GbE RJ45-aansluitingen |
| DPU-ondersteuning | Maximaal twee dual-port NVIDIA BlueField-3 DPU’s |
| Datadrives | Acht hot-swap E1.S NVMe-drivebays |
| Bootdrives | Twee interne M.2 NVMe-slots |
| Uitbreiding | Twee PCIe 5.0 x16 FHHL-slots |
| Koeling | Maximaal twaalf heavy-duty ventilatoren |
| Voeding | Zes redundante 6.600 watt Titanium-voedingen, 3+3 |
| Afmetingen | 356 × 449 × 950 mm |
| Nettogewicht | Circa 119 kg |
| Kleur | Zilver |
Een GPU-platform van dit formaat is geen standaardserver.
De prestaties worden bepaald door de combinatie van GPU’s,
processors, systeemgeheugen, NVMe-opslag, netwerkarchitectuur,
voeding, koeling en software.
NCS International helpt bij het ontwerpen en leveren van
een complete configuratie die is afgestemd op de beoogde
AI-, data-analyse- of HPC-workload.
Neem contact met ons op voor een configuratievoorstel,
beschikbaarheid of technisch advies.
De AS-8126GS-NB3RT gebruikt twee AMD EPYC 9005- of
9004-processoren. De SYS-822GS-NB3RT is gebaseerd op
Intel Xeon-processoren. Beide systemen gebruiken het
NVIDIA HGX B300 8-GPU-platform.
Iedere NVIDIA B300 GPU beschikt over 288 GB HBM3e-geheugen.
Met acht GPU’s heeft het systeem in totaal ongeveer
2,3 TB GPU-geheugen.
Afhankelijk van de gekozen AMD EPYC-processoren ondersteunt
het systeem maximaal 384 cores en 768 threads.
Het systeem beschikt over 24 DIMM-slots en ondersteunt
maximaal 6 TB ECC DDR5 RDIMM-geheugen.
Ja. Met acht NVIDIA ConnectX-8 SuperNICs tot 800 Gb/s
kan het systeem worden gekoppeld aan andere GPU-nodes,
snelle opslagplatforms en een high-speed datacenternetwerk.
Ja. Het systeem ondersteunt maximaal twee dual-port
NVIDIA BlueField-3 DPU’s voor onder andere netwerkoffloading,
infrastructuurbeheer en beveiliging.
Ja. NCS kan het systeem configureren met AMD EPYC-processoren,
werkgeheugen, NVMe-opslag, netwerkcomponenten en aanvullende
hardware op basis van de gewenste workload.
Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl
