RDMA/RoCE Low-Latency Transport & Server Throughput Doorbraak

Een snelgroeiend AI-onderzoekslaboratorium worstelde met een bekend probleem: hun 100GbE-infrastructuur leverde bandbreedte van de draad, maar de latentie van applicaties bleef koppig hoog.Verdeelde opleidingsbanen met frequente netwerkstuttering, en NVMe-over-Fabrics opslag toegang toegevoegd onvoorspelbare vertragingen. de oorzaak? traditionele TCP / IP stacks verbruikt bijna 30% van de CPU-kernen alleen voor pakketverwerking,minder berekeningen laten voor werkelijke werkbelastingenHet team had een fundamentele verschuiving nodig om gegevens te verplaatsen zonder de host-CPU te belasten.Mellanox (NVIDIA Mellanox) MCX653105A-HDATserver NIC.

Het lab heeft deMCX653105A-HDATHet systeem is beschikbaar in 24 computerknooppunten, elk uitgerust met een dubbele poort 100GbE-connectiviteit.MCX653105A-HDAT ConnectX adapter PCIe-netwerkkaart, ondersteunt het hardware-offloaded RoCE (RDMA over Converged Ethernet), waardoor gegevens de kernel kunnen omzeilen en rechtstreeks tussen geheugenregio's kunnen bewegen.na verificatieMCX653105A-HDAT-compatibelIn het kader van het project, dat werd georganiseerd door het Centrum voor de Beheer van de Vervoer van de Europese Unie (ECV) en het Centrum voor de Beheer van de Vervoer van de Europese Gemeenschappen (ECV), werden de meest recente MLNX_OFED-drivers geïnstalleerd en RoCE met DCQCN-congestiebeheersing ingeschakeld.MCX653105A-HDAT Ethernet-adapterkaartHet systeem heeft onmiddellijk de netwerkverwerking van de CPU afgeladen, waardoor de software-overhead bijna nul is.

Voor het opslagverkeer heeft het team NVMe-namespaces rechtstreeks over RDMA gemapped.NVIDIA Mellanox MCX653105A-HDATDe dataverwerking werd met een latentie van minder dan een microseconde afgehandeld, terwijl op hardware gebaseerde besturing zorgde voor isolatie tussen de berekenings- en opslagstromen.MCX653105A-HDAT-gegevensbladIn de praktijk heeft het laboratorium een lijnsnelheid van 100GbE per poort bereikt zonder een enkel pakket onder volle belasting te laten vallen.

• 50% vermindering van de end-to-end latency:MPI pingpongtests daalden van 2,8 μs (TCP) naar 1,4 μs (RoCE).
• CPU-gebruik met 70% verminderd:Netwerkstapelverwerking verhuisde volledig naar hardware, waardoor kernen vrijkwamen voor modeltraining.
• De opslag van IOPS is verdubbeld:NVMe-oF over RDMA elimineerde de softwarebrug, waardoor de latentie onder de 10μs kwam voor kleine bloktoegangen.

Het team valideerde ookMCX653105A-HDAT-specificatiesIn de eerste plaats heeft de Commissie de mogelijkheid geboden om de capaciteit van de productiecentrales te verbeteren en de capaciteit van de productiecentrales te verbeteren.MCX653105A-HDAT prijsIn de eerste plaats is het mogelijk om de kosten van de installatie te verlagen door de installatie van een nieuwe adapter.MCX653105A-HDAT te koopvia geautoriseerde distributeurs vonden zij meerdere configuratiemogelijkheden (single-port, dual-port, met of zonder beveiligde boot).

Deze inzet bevestigt dat deNVIDIA Mellanox MCX653105A-HDATHet is meer dan een high-speed NIC, het is een compleet data acceleration platform.organisaties kunnen zich bevrijden van CPU-gebonden netwerken zonder vorkhef upgradesOf u nu AI-training, gedistribueerde databases of hyperconverged storage gebruikt, deMCX653105A-HDAT ConnectX adapter PCIe-netwerkkaartHet is de bedoeling van de Commissie om de in het kader van het programma opgestelde programma's te evalueren en te evalueren.MCX653105A-HDAT-gegevensbladenMCX653105A-HDAT-specificatiesDe adapter is breed beschikbaar.MCX653105A-HDAT te koopHet is een zeer belangrijk onderdeel van de ontwikkeling van de IT-infrastructuur, die de mogelijkheid biedt om de gebruikers te helpen bij de ontwikkeling van hun eigen IT-systemen.MCX653105A-HDAT Ethernet-adapterkaartHet veranderde onze 100GbE stof van een knelpunt in een prestatie multiplier. "