NVIDIA Mellanox MCX653105A-HDAT Server Adapter in actie: Verhoging van de doorvoer met RDMA/RoCE Low-Latency Transport

Een toonaangevend financieel technologiebedrijf, tijdens het bouwen van zijn volgende generatie big data analytics platform, kwam te maken met ernstige netwerk I/O knelpunten.De bestaande 10GbE-infrastructuur had moeite met het omgaan met de enorme gegevensstroom die vereist is voor real-time risicobeoordeling en high-frequency trading-analyse. CPU-kernen besteedden tot 30% van hun cycli aan het beheer van netwerkstraffic, waardoor minder middelen overbleven voor de verwerking van kritieke toepassingen.om hun gedistribueerde database en AI-gedreven analyses te schalen, moesten ze de latency drastisch verminderen en de effectieve serverdoorvoer verhogen zonder hun hele serverpark te overzien.

De overhead van de kernel-netwerkstack veroorzaakte onvoorspelbare latentiepieken.rechtstreeks van invloed zijn op de prestaties van hun in-memory-databases en NVMe-gebaseerde opslagclustersHet bedrijf had behoefte aan een oplossing die netwerkverwerking van de CPU zou kunnen afladen en rechtstreeks, snel gegevensverkeer tussen servers en opslag mogelijk zou maken.Het besluit werd genomen om de迈络思 (NVIDIA Mellanox) MCX653105A-HDATServer adapter kaart over hun kritieke computing en opslag knooppunten.

De inzet was gericht op deMCX653105A-HDATDe kernversie van de NVIDIA Mellanox ConnectX-6 is een dual-port 100Gb/s adapter van de NVIDIA Mellanox ConnectX-6 familie.NVIDIA Mellanox MCX653105A-HDATwerd gekozen vanwege de native hardware-ondersteuning voor RoCE, die de voordelen van lage latentie van InfiniBand biedt terwijl het over een standaard Ethernet-fabriek werkt,de compatibiliteit met de bestaande netwerkswitches te waarborgen;.

Het team van ingenieurs configureerde de servers in een spine-leaf-topologie, waardoor verbinding van iedereen tot iedereen met voorspelbare prestaties mogelijk was.MCX653105A-HDAT Ethernet-adapterkaartDoor gebruik te maken van de hardware-gebaseerde RoCE-offloads,Het team heeft een verliesloos weefsel met Priority Flow Control (PFC) opgezet om te garanderen dat er geen pakketten vallen., een cruciale vereiste voor efficiënte RDMA-activiteiten.MCX653105A-HDAT ConnectX adapter PCIe-netwerkkaartHet is echter van essentieel belang dat de geavanceerde congestiebeheersmechanismen de stabiliteit van het weefsel zelfs onder volle belasting handhaven.

De prestatieverbetering was onmiddellijk en aanzienlijk. Voorafgaand aan de upgrade, de bestaande 10GbE-infrastructuur gelimiteerd server-to-server doorvoer op ongeveer 1,2 GB / s met een hoge CPU-uitgaven.Na de integratie van deMCX653105A-HDATDe Cluster heeft de volgende resultaten bereikt:

Deze tienvoudige toename van de doorvoer werd bereikt terwijl tegelijkertijd CPU-kernen werden vrijgemaakt voor verwerking op toepassingsniveau.MCX653105A-HDATDe mogelijkheden van RDMA zijn essentieel voor het bereiken van een lijnsnelheid van 100 Gb/s, waardoor de gedistribueerde database horizontaal kan worden opgeschaald zonder dat er extra servers nodig zijn.zoals uiteengezet in de officiëleMCX653105A-HDAT-specificatiesHet team heeft ook de mogelijkheid gehad om direct geheugen-naar-geheugen-overdrachten uit te voeren door de kernel te omzeilen en de latentie te verminderen tot niveaus die voorheen alleen in gespecialiseerde HPC-clusters werden gezien.MCX653105A-HDAT-gegevensbladde PCIe-parameters te verfijnen om een optimaal gebruik van de Gen4-bandbreedte te garanderen.

Deze inzet toont aan dat deMCX653105A-HDAT Ethernet adapter kaart oplossingHet is niet alleen een incrementele upgrade, maar een transformatief element voor data-gedreven bedrijven.MCX653105A-HDATHet succes heeft de weg vrijgemaakt voor de uitbreiding van de implementatie naar hun machine learning training clusters,waar de lage latentie kenmerken van deMCX653105A-HDAT te koopVoor architecten en ingenieurs die hoge prestaties van infrastructuur evalueren, is deMCX653105A-HDAT-compatibelHet gebruik van de datacenters in de EU is in het verlengde van de jaren 2000 een belangrijke factor in de ontwikkeling van de datacenters in Europa.