NVIDIA 技術博客喺 2026 年 10 月 6 日發表文章,介紹 DOCA GPUNetIO 點樣將 GPU 發起式網絡(GPU-initiated networking)統一喺 NVIDIA 整體軟體棧入面。呢個係一個架構層嘅變化,影響 AI 集群入面數據流動嘅方式。

傳統網絡仲係靠 CPU 打波

傳統分佈式應用做網絡通訊,每一筆交易都經 CPU 中轉。GPU 要收發數據,要等 CPU 處理、搬運、再交給網絡介面卡。呢個過程喺關鍵路徑(critical path)上面,加咗延遲,限制了分散式應用嘅即時反應能力。

GPUNetIO 做咗乜?

DOCA GPUNetIO 係一個以 GPU 為中心嘅網絡 SDK 層,整合咗 GPUDirect RDMA(GPU 直接遠端記憶體存取)、GPUDirect Async Kernel-Initiated(GDA-KI,異步 GPU 核心發起式通訊)同 GDRCopy,令 CUDA kernel 可以直接驅動 Ethernet、RDMA、Verbs 同 DMA 操作,把 CPU 移出具應用關鍵路徑。

具體分兩層:控制路徑(control path)由 CPU 函數負責,用 DOCA Ethernet、DOCA Verbs、DOCA DMA、DOCA CommChannel 建立並匯出 GPU 記憶體傳輸對象;數據路徑(data path)由 GPU 上嘅 CUDA kernel 直接操作呢啲已匯出嘅對象。

統一前:各自為政

文章指,喺 GPUNetIO 成為共享基礎之前,每個通訊庫都各自開發自己嘅 GDA-KI 風格 GPU 發起式 RDMA 實現。每個庫有自己嘅假設、自己嘅代碼、自己嘅維護包袱,互不相通。

統一後:單一實現,多庫共用

而家所有 GDA-KI 風格實現收埋喺 GPUNetIO 之下,變成單一嘅 GPUNetIO GDA-KI 實現。文章稱呢個統一帶來三個好處:共享投資點(功能、優化、bug fix)、減少跨 SDK 重複工程、以及一個框架嘅創新可以快速擴展到其他框架。

邊啲產品線受惠?

文章列出 GPUNetIO 已整合嘅產品線:NVSHMEM、NCCL、Aerial 5G SDK、UCX/NIXL、NVQLink(配 Holoscan Sensor Bridge operator)、Holoscan Advanced Network Operator、DeepEP/HybridEP 等。NIXL/UCX、NCCL、NVSHMEM 被點名為協作豐富 GPUNetIO 嘅高層庫。

兩種發布形態

NVIDIA 以兩種形態發布 GPUNetIO:完整 DOCA SDK 版本(超集,涵蓋 DOCA 全面棧包括 Verbs、Ethernet、DMA、Comm Channel),以及一個開源版本。原文喺「In parallel, NVIDIA also publishes an ope」處截斷,開源版本嘅具體內容、授權條款同發布範圍未能從現有材料確認。

證據同限制

本材料為 NVIDIA 自身技術博客,屬廠商自述,冇獨立第三方性能數據、冇跑分、冇測試條件説明。文章未提供具體發布日期(除文章本身 2026-10-06 外)、未列明各整合嘅版本號,亦未交代 GPUNetIO 同既有 PCIe/NVLink 方案嘅技術分別。開源版本嘅細節因原文截斷而缺失。

模姐驗嚇貨:GPU 自己控制網絡,方向講嘅通——減少 CPU 瓶頸、降低延遲,技術邏輯冇問題。但呢篇係 NVIDIA 自己寫嘅產品架構介紹,冇一個獨立數字。開源版嘅具體形態都未見到。集群管理者真正要做嘅決定係:呢套統一架構對現有部署嘅實際遷移成本同性能影響點樣?呢啲係廠商博客通常唔會回答嘅問題。

模姐|深度調教