NVIDIA Mellanox MCX4121A-ACAT Server Adapter in actie.

NVIDIA Mellanox MCX4121A-ACAT Server Adapter in actie.

Achtergrond en de uitdaging: wanneer 25GbE de latentiewand tegenkomt

Een middelgrote cloudserviceprovider - laten we ze CloudNova noemen - stond voor een bekende maar pijnlijke knelpunt.Maar de applicatieprestaties vertelden een ander verhaal.Database replicatie vertraging, gedistribueerde machine learning jobs stilgestaan op gradiënt synchronisatie, en NVMe opslag arrays nooit leverde hun beloofde IOPS.Traditionele TCP/IP stack overhead was het verbruiken van meer dan 25% van de CPU kernen op hun computing nodesHet was niet alleen nodig om de bandbreedte te vergroten, maar ook om de bandbreedte te vergroten.bruikbaarHet onderzoek leidde tot een nieuwe methode voor het bepalen van de bandbreedte van de micro-seconden.NVIDIA Mellanox MCX4121A-ACATEen kaart die precies is ontworpen voor deze moderne datacenters.

De oplossing: het inzetten van de MCX4121A-ACAT Ethernet Adapter Card

CloudNova's architectuur team heeft hun oude 10GbE NIC's vervangen door deMCX4121A-ACAT Ethernet-adapterkaartDe implementatie leverde gebruik van de native RoCE v2-ondersteuning van de adapter om verliesloos Ethernet-transport mogelijk te maken,de noodzaak van afzonderlijke InfiniBand-stoffen wegnemenDe sleutel tot de oplossing was deMCX4121A-ACAT ConnectX-4 Lx met twee poorten 25GbE SFP28Het ontwerp, dat actief-actieve linkbinding voor 50Gb/s totale doorvoer per server mogelijk maakte.Het team configureerde PFC (Priority Flow Control) en ECN (Explicit Congestion Notification) op het niveau van de schakelaar, waardoor het RoCE-verkeer zelfs onder piekbelasting verliesloos bleef.de gehele opslag- en rekenfabriek draaide op RDMA, een naadloze overgang door de out-of-the-box compatibiliteit van de adapter met de bestaande SFP28-kabels en Mellanox Spectrum-switches.

Uit operationeel oogpunt is deMCX4121A-ACAT-compatibelDe kaarten werden perfect geïntegreerd met CloudNova's Ubuntu-gebaseerde servers en Kubernetes cluster, waarbij alleen standaard stuurprogramma's moesten worden geïnstalleerd.MCX4121A-ACAT-gegevensbladom de buffertoewijzing te verfijnen en de samenvoegingsinstellingen te onderbreken, waardoor optimale prestaties worden bereikt voor hun gemengde werkomgeving die MySQL-clusters, Spark analytics,en TensorFlow-trainingsopdrachten.

Meetbare resultaten: doorvoer, latentie en CPU-efficiëntie

De prestatieverbetering was onmiddellijk en kwantificeerbaar.NVIDIA Mellanox MCX4121A-ACATIn het geval van de NVMe-oF-leeslatentie daalde de backend van de opslag van 85 μs naar slechts 12 μs, een 7x verbetering.een bijna synchrone failover mogelijk makenVoor machine learning-workloads is de totale synchronisatietijd voor ResNet-50-training met 62% verminderd, waardoor de totale tijd voor epoch-training is verkort van 4,2 uur tot 1,6 uur.

Naast de latentie waren de serverdoorvoerwinsten even aantrekkelijk.en VLAN-tagging - verminderde CPU-benutting voor netwerkverwerking van 28% naar minder dan 5% in alle nodesDit heeft meer dan 20 CPU-kernen per server vrijgemaakt voor applicatielogica, waardoor de containerdensiteit direct met 40% is toegenomen.Specificaties van MCX4121A-ACAT, levert de kaart een lijnsnelheid van 25GbE per poort met latentie van sub-1μs, en de interne benchmarks van CloudNova bevestigden deze cijfers in productie.

Bedrijfsvoordelen: TCO en toekomstgereedheid

Hoewel de ruwe prestatienummers een overtuigend verhaal vertellen, waren de operationele winsten even aanzienlijk.MCX4121A-ACAT Ethernet adapter kaart oplossingverminderde de totale eigendomskosten door de noodzaak van een afzonderlijke RDMA-fabriek te elimineren (besparing van meer dan $ 180K in switchinfrastructuur).Energieverbruik per server daalde met 8 W ten opzichte van de vorige NIC'sHet is de bedoeling dat de adapter in de eerste plaats wordt gebruikt voor het afkoelen van de lucht, waardoor jaarlijks ongeveer 15% wordt bespaard op koeling.verkeer automatisch mislukt naar de secundaire poort met nul pakketverlies, zoals geverifieerd door de telemetrie logs van de adapter.

Voor IT-managers die deMCX4121A-ACAT prijsDe CFO van CloudNova merkte op dat de terugverdientijd minder dan 10 maanden was, grotendeels veroorzaakt door de toegenomen bedieningsopbrengst en de verminderde voltooiingstijden.Het team was ook blij met de toekomstgerichte architectuur.MCX4121A-ACAT te koopDe Commissie heeft de Commissie verzocht om een evaluatie te verrichten van de resultaten van de evaluatie van de resultaten van de evaluatie.

Samenvatting en vooruitzichten: een blauwdruk voor RDMA-gereed datacenters

CloudNova's reis met deNVIDIA Mellanox MCX4121A-ACATHet project is gericht op het ontwikkelen van een programma voor de ontwikkeling van een 25GbE-infrastructuur.en naadloze integratie met bestaande ecosystemen, deMCX4121A-ACAT Ethernet-adapterkaartHet resultaat is 7x lagere opslaglatentie, 83% CPU overhead reductie,en 62% snellere ML-opleiding .

De vraag naar deterministische netwerken blijft toenemen naarmate AI-werkbelastingen en realtime-analyses de vraag naar deterministische netwerken blijven stimuleren.MCX4121A-ACAT ConnectX-4 Lx met twee poorten 25GbE SFP28Voor architecten en IT-leiders die hun volgende infrastructuurvernieuwing plannen, is deze adapter niet alleen een onderdeel.maar een strategische troef.Gedetailleerde afstemmingsparameters en beste praktijken voor de inzet zijn beschikbaar in de officiëleMCX4121A-ACAT-gegevensblad- een essentiële referentie voor elke serieuze inzet.