AIC 5U GPU-server met AMD EPYC
Een schaalbaar GPU-platform voor artificial intelligence,
deep learning, high-performance computing, rendering,
simulatie en omvangrijke data-analyses.
De AIC CB502-NM is een krachtige 5U rackmountserver voor
organisaties die veel GPU-rekenkracht willen combineren
met een groot systeemgeheugen, snelle opslag en uitgebreide
PCI Express 5.0-connectiviteit.
Het systeem ondersteunt maximaal acht dubbelbrede GPU-kaarten
met een vermogensverbruik tot 600 watt per kaart.
Dankzij twee AMD EPYC 9004- of 9005-processors beschikt het
platform over een groot aantal processorkernen, twaalf
geheugenkanalen per processor en een hoge I/O-bandbreedte.
NCS International configureert de CB502-NM op basis van
jouw software, workload, GPU-keuze, opslagbehoefte,
netwerkarchitectuur en datacenterinfrastructuur.
De AIC CB502-NM biedt ruimte aan maximaal acht dubbelbrede
full-height, full-length GPU-kaarten.
Iedere GPU-positie ondersteunt een acceleratorkaart met een
vermogensverbruik tot maximaal 600 watt. Hierdoor kan het systeem
worden opgebouwd met krachtige datacenter-GPU’s voor AI-training,
inference, simulatie, rendering en complexe dataverwerking.
De open PCIe-architectuur biedt meer keuzevrijheid dan een vast
geïntegreerd GPU-platform. De GPU-configuratie kan daardoor worden
afgestemd op de gebruikte software, de gewenste prestaties en het
beschikbare budget.
GPU-platform
GPU-workloads
De CB502-NM is gebaseerd op het AIC Norma-serverboard en ondersteunt
twee AMD EPYC-processors in Socket SP5.
Er kan worden gekozen uit AMD EPYC 9004-processors, ook bekend als
Genoa, en AMD EPYC 9005-processors uit de Turin-generatie.
Het platform ondersteunt processors met een TDP tot 400 watt.
De uiteindelijke processorkeuze hangt onder andere af van het gewenste
aantal cores, de kloksnelheid, de softwarelicenties en de verhouding
tussen CPU- en GPU-verwerking.
AMD EPYC 9005
AMD EPYC 9004
Het systeem beschikt over 24 DDR5 DIMM-slots: twaalf slots per
processor en één DIMM per geheugenkanaal.
Met AMD EPYC 9005-processors ondersteunt het systeem
geheugensnelheden tot 6000 MT/s. Bij AMD EPYC 9004-processors
bedraagt de ondersteunde geheugensnelheid maximaal 4800 MT/s.
Door alle twaalf geheugenkanalen per processor te benutten, kan een
hoge geheugenbandbreedte worden bereikt. Dat is met name belangrijk
bij GPU-feeding, wetenschappelijke berekeningen, simulaties en
omvangrijke datasets.
Geheugenarchitectuur
Geheugensnelheid
Aan de voorzijde bevinden zich twaalf hot-swap drivebays voor
3,5-inch of 2,5-inch drives.
De tri-mode opslagarchitectuur maakt het mogelijk om, afhankelijk
van de gekozen backplane en controller, NVMe-, SAS- en SATA-drives
toe te passen.
Volgens de beschikbare systeemuitvoeringen kunnen vier bays worden
gebruikt voor PCIe Gen4 NVMe en acht bays voor SAS- of SATA-drives.
Hierdoor kan snelle lokale opslag worden gecombineerd met grotere
opslagcapaciteit.
Snelle dataopslag
Capaciteitsopslag
De CB502-NM beschikt over uitgebreide PCI Express 5.0-connectiviteit.
Aan de achterzijde zijn acht PCIe 5.0 x16-posities voor de GPU-kaarten
en twee PCIe 5.0 x8-slots voor aanvullende uitbreidingskaarten
beschikbaar.
Deze extra slots kunnen worden gebruikt voor high-speed
netwerkadapters, storagecontrollers, fabric-adapters of andere
specialistische uitbreidingen.
De precieze inzet van de beschikbare slotruimte is afhankelijk van
de dikte en koeling van de gekozen GPU-kaarten.
GPU-connectiviteit
Aanvullende uitbreiding
Het systeem beschikt standaard over twee geïntegreerde
1 GbE-netwerkaansluitingen en een afzonderlijke 1 GbE-poort voor
het BMC-management.
Voor productieomgevingen kan de server worden uitgebreid met
snellere Ethernet- of InfiniBand-netwerkadapters via de beschikbare
PCIe-slots.
Aan de voor- en achterzijde zijn USB-, VGA- en
managementaansluitingen beschikbaar voor lokaal en extern beheer.
Standaard netwerk
Externe aansluitingen
Acht GPU’s met een vermogensverbruik tot 600 watt per kaart stellen
hoge eisen aan de voeding en de elektrische infrastructuur.
Voor het CB502-NM-platform vermeldt AIC een Titanium
voedingsoplossing met zes 3200-wattmodules in een redundante
5+1-opstelling. Afhankelijk van de gekozen uitvoering zijn ook
andere voedingsconfiguraties mogelijk.
NCS beoordeelt daarom vooraf het maximale systeemverbruik, de
belasting per voedingsgroep, de gewenste redundantie en de
beschikbare datacenterstroom.
High-power uitvoering
Infrastructuuradvies
De server is voorzien van tien krachtige hot-swap ventilatoren.
Deze zorgen voor een gerichte luchtstroom langs de processors,
het geheugen, de GPU-kaarten en de overige componenten.
De ventilatoren kunnen tijdens gebruik worden vervangen en worden
via het geïntegreerde systeembeheer bewaakt.
Voor een betrouwbare werking moet ook het rack en het datacenter
voldoende koude lucht en afvoercapaciteit beschikbaar hebben.
Systeemkoeling
Datacenteromgeving
De geïntegreerde ASPEED AST2600-managementcontroller maakt
uitgebreid beheer op afstand mogelijk.
Via IPMI 2.0, KVM over IP en Redfish kunnen beheerders de
systeemstatus controleren, sensoren uitlezen, het systeem bedienen
en op afstand installaties of onderhoud uitvoeren.
Ook temperatuur, ventilatoren, spanningen en de status van de
voedingen kunnen centraal worden bewaakt.
Remote management
Monitoring
| Model | AIC CB502-NM |
|---|---|
| Formaat | 5U rackmount |
| Moederbord | AIC Norma-serverboard |
| Processors | Twee AMD EPYC 9004- of 9005-processors |
| Processorarchitectuur | AMD Genoa of Turin |
| Processorsocket | Socket SP5 |
| Maximale CPU-TDP | Tot 400 watt per processor |
| CPU-interconnect | xGMI tot 32 GT/s |
| GPU-capaciteit | Maximaal acht dubbelbrede GPU-kaarten |
| Maximaal GPU-vermogen | Tot 600 watt per GPU-kaart |
| GPU-aansluitingen | Acht PCIe 5.0 x16 FHFL-posities |
| Aanvullende uitbreiding | Twee PCIe 5.0 x8 FHFL-slots |
| Werkgeheugen | 24 DDR5 DIMM-slots |
| Geheugenkanalen | Twaalf kanalen per processor |
| Geheugensnelheid EPYC 9005 | Tot 6000 MT/s bij 1 DIMM per kanaal |
| Geheugensnelheid EPYC 9004 | Tot 4800 MT/s bij 1 DIMM per kanaal |
| Frontopslag | Twaalf hot-swap 3,5- of 2,5-inch tri-mode drivebays |
| Interne SATA-aansluitingen | Twee 7-pins SATA-aansluitingen |
| Geïntegreerd netwerk | Dual-port 1 GbE |
| Managementnetwerk | Afzonderlijke 1 GbE BMC-poort |
| Systeembeheer | IPMI 2.0, KVM over IP, HTML5, SNMP en Redfish |
| USB | Twee USB 3.2 Gen1-poorten voor en twee USB 3.0-poorten achter |
| Video | VGA voor en achter, plus mini DisplayPort voor |
| Koeling | Tien hot-swap ventilatoren van 80 × 56 mm |
| Voeding |
Tot 16.000 watt beschikbaar via een redundante 5+1-opstelling met zes 3200-wattmodules |
| Afmetingen | 435 × 831 × 218 mm |
| Brutogewicht met voeding en rails | Circa 51,85 kg |
| Montage | 37-inch tool-less slide rails |
| Bedrijfstemperatuur | 0 tot 35 °C |
Zoekt u een vergelijkbare 5U GPU-server met Intel Xeon-processors
en ruimte voor maximaal tien GPU-kaarten?
Bekijk dan ook de
AIC CB501-VA
.
Een server met acht krachtige GPU’s vraagt om een zorgvuldige
balans tussen processors, systeemgeheugen, GPU’s, opslag,
netwerk, voeding en koeling.
NCS International helpt bij het ontwerpen en leveren van
een complete configuratie die aansluit op de beoogde
AI-, HPC-, rendering- of data-analyseworkload.
Neem contact met ons op voor een configuratievoorstel,
beschikbaarheid of technisch advies.
De server ondersteunt maximaal acht dubbelbrede
full-height, full-length GPU-kaarten.
Iedere GPU-positie ondersteunt een kaart met een
vermogensverbruik tot maximaal 600 watt.
De CB502-NM ondersteunt twee AMD EPYC 9004-processors
uit de Genoa-generatie of twee AMD EPYC 9005-processors
uit de Turin-generatie.
Het systeem beschikt over 24 DDR5 DIMM-slots. Per processor
zijn twaalf geheugenkanalen en twaalf DIMM-slots beschikbaar.
De twaalf tri-mode drivebays kunnen, afhankelijk van de gekozen
uitvoering, worden gebruikt voor NVMe-, SAS- en SATA-drives.
Ja. Met maximaal acht krachtige GPU’s, dual AMD EPYC,
24 DDR5-geheugenslots en PCIe 5.0 is het systeem geschikt
voor AI-training, inference en andere GPU-versnelde workloads.
Ja. De geïntegreerde ASPEED AST2600 BMC ondersteunt onder
andere IPMI 2.0, KVM over IP, HTML5, Redfish, SNMP en
remote power management.
De CB502-NM is gebaseerd op AMD EPYC en ondersteunt maximaal
acht GPU’s van maximaal 600 watt. De CB501-VA gebruikt Intel
Xeon-processors en biedt ruimte aan maximaal tien GPU’s van
maximaal 450 watt per kaart.
Ja. NCS kan de server configureren met processors, geheugen,
GPU’s, opslag, netwerkadapters en aanvullende componenten
op basis van de gewenste toepassing.
Den Sliem 89
7141 JG Groenlo
The Netherlands
+31 544 470 000
info@ncs.nl
