NVIDIA Mellanox MQM9790-NS2F InfiniBand Switch in de praktijk｜Low-Latency Interconnect Optimalisatie voor RDMA, HPC

NVIDIA Mellanox MQM9790-NS2F InfiniBand Switch in de praktijk in Low-Latency Interconnect Optimization voor RDMA, HPC en AI Clusters

In moderne AI-training, HPC-simulatie en gedistribueerde opslagomgevingen is de echte knelpunt zelden ruwe rekenkracht, maar de efficiëntie van knooppunt-naar-knooppunt-interconnectie.De NVIDIA Mellanox MQM9790-NS2FDit artikel loopt door een representatief implementatiescenario om te laten zien hoe de MQM9790-NS2F RDMA verbetert,HPC, en AI-clusterprestaties door middel van laag latency-fabriekontwerp.

Achtergrond en uitdagingen

Een typisch onderzoeks- of enterprise AI cluster kan bestaan uit honderden GPU-servers, een parallel bestandssysteem en een werkplanner die MPI- en NCCL-werklasten verdeelt.elk knooppunt kan veel meer oost-westverkeer genereren dan een 200Gb/s HDR-stof gemakkelijk kan absorberenTeams melden vaak drie pijnpunten: toenemende latentie tijdens collectieve operaties, overbelasting die zich over de weefselniveaus verspreidt en moeite met het schalen van het aantal havens zonder hoppen toe te voegen.

Voor netwerkarchitecten is de uitdaging niet alleen het verbeteren van de snelheid van de verbinding, maar het behoud van deterministisch, verliesloos transport, terwijl het weefsel vlak genoeg blijft om onnodige latentie te voorkomen.Dit is waar het evalueren van MQM9790-NS2F specificaties tegen werkelijke werkdrukprofielen essentieel wordt.

Oplossing en toepassingsbenadering

In dit scenario werd de cluster gemigreerd naar een 400Gb/s NDR spine-leaf fabric gebouwd rond de MQM9790-NS2F InfiniBand switch.Het biedt een hoge radix in één schakelaarHet gebruik van de nieuwe technologie is gebaseerd op een gestructureerde aanpak:

• Leaf layer: MQM9790-NS2F-switches verbinden GPU-nodes en opslagdoelen via 400Gb/s NDR-links
• Wervelkolomlaag: extra MQM9790-NS2F-eenheden zorgen voor verbinding tussen bladeren en diversiteit van paden
• Collectieve versnelling: NVIDIA SHARPv3 offloads MPI en NCCL-operaties naar de stof
• Congestiebeheersing: adaptieve routing en geavanceerde QoS-bescherming tegen incast en hotspots
• Beheer: standaard InfiniBand-instrumenten en telemetrie voor het monitoren van de gezondheid van weefsels

Omdat de MQM9790-NS2F InfiniBand-switch deel uitmaakt van de Quantum-2-familie, werkt hij samen met bestaande InfiniBand-beheerpraktijken en adapter-ecosystemen.Teams die MQM9790-NS2F-compatibele hardware beoordelen, moeten verifiëren dat de gastkanaladapters, OSFP-kabels en firmware-niveaus voldoen aan de NDR-vereisten.Een MQM9790-NS2F InfiniBand-switchoplossing van dit soort wordt meestal gepland naast GPU-vernieuwingscycli om knelpunten van gemengde generatie te voorkomen.

Resultaten en voordelen

Na de inzet was de meest zichtbare verandering in de voltooiingstijd voor nauw gekoppelde werkbelastingen.Collectieve operaties die voorheen door congestie vaststonden, worden nu voltooid met een lagere en meer consistente achterstandDe 64-poort OSFP-dichtheid vereenvoudigde ook de bekabeling en verminderde het aantal schakels tussen twee eindpunten, wat rechtstreeks ten goede komt aan de RDMA-prestaties.

Het fabricage-verkeer, met inbegrip van NVMe over Fabrics, is steeds eenvoudiger.deelt hetzelfde lage-latentie-vervoer als computertrafficVoor IT-managers is de belangrijkste conclusie dat investeringen op de fabriclaag capaciteit kunnen ontsluiten die al is betaald op de computation layer.

Inkoop- en planningsteams bekijken vaak het MQM9790-NS2F-datasheet om het aantal poorten, het vermogen en de koelingen te bevestigen voordat ze een ontwerp afronden.Vragen over de prijs van de MQM9790-NS2F en de beschikbaarheid van de MQM9790-NS2F voor verkoop zijn het beste gericht aan geautoriseerde distributeurs en NVIDIA-bedrijfsvertegenwoordigers, aangezien de prijzen afhankelijk zijn van de configuratie, ondersteuning en regio.

Samenvatting en vooruitzichten

De NVIDIA Mellanox MQM9790-NS2F toont aan hoe een NDR-platform met een hoge radix 400Gb/s de prestaties van AI, HPC en RDMA-clusters kan hervormen zonder dat er meer complexe stoffen worden toegevoegd.Naarmate de werkdruk groeit en de GPU-dichtheid toeneemtVoor architecten die de volgende fabric refresh plannen, is de MQM9790-NS2F een praktische bouwsteen voor deterministische,met een hoge doorvoerverbinding.