NVIDIA Mellanox 920-9B210-00FN-0D0 aangekondigd: Herdefiniëren van de Ultra-Scale AI Network Foundation met 400Gb/s NDR

NVIDIA Mellanox 920-9B210-00FN-0D0 aangekondigd: De Ultra-Scale AI Netwerk Fundering opnieuw gedefinieerd met 400Gb/s NDR

Naarmate grote taalmodellen schalen van honderden miljarden naar biljoenen parameters, tonen traditionele 200Gb/s HDR-netwerken hun beperkingen in dichte collectieve communicatiescenario's zoals all-to-all, waar GPU-gebruik vaak daalt door netwerkcongestie. NVIDIA heeft officieel de NVIDIA Mellanox 920-9B210-00FN-0D0, een 400Gb/s NDR InfiniBand-switch, onthuld, ontworpen om de bandbreedte, dichtheid en intelligentie in het netwerk te leveren die nodig zijn voor de meest veeleisende AI- en HPC-workloads.

De Uitdaging: Wanneer HDR de Bottleneck Wordt

Voor organisaties die hun GPU-clusters opschalen tot meer dan 2.000 knooppunten, worden de beperkingen van 200Gb/s HDR steeds duidelijker. Tijdens all-reduce en all-to-all bewerkingen - die fundamenteel zijn voor gedistribueerde training - kan netwerkcongestie het GPU-gebruik verminderen van 85% tot minder dan 50%, wat effectief miljoenen dollars aan rekeninvesteringen verspilt. Netwerkarchitecten staan voor de dubbele uitdaging om deterministische sub-microseconden latentie te leveren en tegelijkertijd verliesvrije prestaties te handhaven over duizenden eindpunten.

De 920-9B210-00FN-0D0 InfiniBand switch OPN (Ordering Part Number) pakt deze uitdagingen direct aan door 400Gb/s NDR-prestaties te leveren op een 64-poorts OSFP-platform, wat de benodigde ruimte en intelligentie biedt om netwerk-geïnduceerde vertragingen te elimineren, zelfs in de meest veeleisende AI-trainingsomgevingen.

Belangrijkste Technische Kenmerken

Gebouwd op dezelfde silicium als de veelgebruikte MQM9790-NS2F, levert het 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR platform een uitgebreide set functies die zijn ontworpen voor exascale-klasse implementaties. Volgens het 920-9B210-00FN-0D0 datasheet biedt de switch:

• 64 poorten van 400Gb/s NDR: Elke OSFP-poort ondersteunt bidirectionele 400Gb/s met forward error correction (FEC), wat een totale schakelcapaciteit van 51,2 Tb/s levert.
• Ultra-lage latentie: Sub-100ns cut-through latentie, zoals gedocumenteerd in de 920-9B210-00FN-0D0 specificaties, zorgt voor minimale overhead voor RDMA- en MPI-bewerkingen.
• Geïntegreerde SHARPv3: Offloads collectieve bewerkingen (all-reduce, all-to-all, broadcast) rechtstreeks op het switch-netwerk, waardoor de communicatielatentie tot 40% wordt verminderd voor grootschalige taken.
• Adaptieve routering en congestiebeheer: Routeert verkeer dynamisch om hotspots te vermijden, waardoor voorspelbare prestaties behouden blijven, zelfs onder vijandige verkeerspatronen.
• Geavanceerde telemetrie: Per-flow en per-poort tellers, samen met bufferbezetting monitoring, bieden diepgaand inzicht voor proactief beheer.

De 920-9B210-00FN-0D0 compatibele ecosysteem omvat een breed scala aan NVIDIA-gecertificeerde OSFP-kabels, optische transceivers en softwaretools, wat zorgt voor naadloze integratie in bestaande HDR- of greenfield NDR-omgevingen. Voor organisaties die hun infrastructuur van de volgende generatie plannen, ondersteunt de switch gemengde HDR/NDR-netwerken, waardoor gefaseerde upgrades mogelijk zijn zonder productie-workloads te onderbreken.

Voldoen aan Real-World Implementatiebehoeften

Voor netwerkarchitecten die nieuwe AI-trainingsclusters ontwerpen of bestaande HDR-netwerken upgraden, biedt de 920-9B210-00FN-0D0 InfiniBand switch OPN oplossing verschillende aantrekkelijke voordelen. De 64-poorts dichtheid maakt top-of-rack implementaties mogelijk met maximaal 64 dual-port servers per switch, waardoor het aantal benodigde switches en kabels wordt verminderd in vergelijking met 40-poorts alternatieven. In leaf-spine topologieën vertaalt dit zich in minder spine-lagen, lagere latentie en een lagere totale eigendomskosten.

De switch erft ook de robuuste beheerfuncties van NVIDIA's InfiniBand-portfolio. Met NVIDIA's Unified Fabric Manager (UFM) kunnen beheerders diepgaand inzicht krijgen in de netwerkgezondheid, provisioning automatiseren en proactief afwijkingen detecteren voordat ze productie-workloads beïnvloeden. De dubbele redundante voedingen en hot-swappable ventilatormodules van de switch zorgen voor 99,999% beschikbaarheid voor bedrijfskritische toepassingen.

Bij het evalueren van de 920-9B210-00FN-0D0 prijs en de totale eigendomskosten, biedt de switch aantrekkelijke economische voordelen voor grootschalige implementaties. Hoewel de initiële kosten hoger zijn dan HDR-alternatieven, zijn de kosten per poort en de kosten per GPU-netwerk aanzienlijk lager wanneer deze worden afgeschreven over een groot cluster, waardoor NDR een steeds kosteneffectievere keuze wordt voor exascale-projecten. De 920-9B210-00FN-0D0 te koop is nu beschikbaar via de kanaalpartners van NVIDIA, met vroege klantverzendingen die al gaande zijn.

Samenvatting: De NDR Fundering voor Next-Gen AI

De NVIDIA Mellanox 920-9B210-00FN-0D0 vertegenwoordigt een aanzienlijke stap voorwaarts in high-performance netwerken, die de bandbreedte, dichtheid en intelligentie levert die nodig zijn voor de volgende generatie AI- en HPC-clusters. Door 400Gb/s NDR-snelheid te combineren met 64-poorts OSFP-dichtheid en SHARPv3 in-network computing, stelt deze switch architecten in staat om schaalbare, deterministische netwerken te bouwen die gelijke tred kunnen houden met de meest veeleisende workloads met biljoenen parameters.

Voor organisaties die hun infrastructuur van de volgende generatie plannen, biedt de 920-9B210-00FN-0D0 een duidelijk, high-performance pad vooruit - hetzij als een greenfield implementatie of als een strategische upgrade van bestaande HDR-netwerken. Met zijn robuuste functieset, enterprise-grade beheerbaarheid en naadloze compatibiliteit met het bredere NVIDIA-ecosysteem, is deze switch klaar om een hoeksteen te worden van exascale-klasse netwerken.