NVIDIA 正式將 Run:ai GPU 調度（orchestration）平台以 Apache 2.0 授權開源。呢個平台主要負責喺 Kubernetes 上面分配同調度 GPU 算力，係跑 AI 推理同訓練工作負載嘅底層系統層。

今次開源版本包括：

  • KAI Scheduler：GPU 調度核心，負責將工作負載分配到適當嘅 GPU 節點。
  • CUDA 13.4 GPU 分片（fractioning）：將單張 GPU 嘅算力切成多個小份，讓不同任務共用。
  • 配額管理（quota management）：管控不同團隊或任務可以分配嘅 GPU 資源上限。
  • 本地 Kind 開發環境：Kind（Kubernetes in Docker）係用 Docker 容器模擬嘅本地 Kubernetes 叢集，方便開發者喺本機測試而唔使開真嘅 GPU 叢集。

Run:ai 係 NVIDIA 收購嘅 GPU 編排工具，開源前一直係商業產品。用 Apache 2.0 授權意味著開發者可以自由使用、修改同商用。

模姐驗嚇貨：開源唔等於完全開放。Run:ai 嘅 KAI Scheduler 以前係 NVIDIA 內部或商業分發，而家放落 Apache 2.0 代表技術上嘅開放，但實際部署仍然需要配合 NVIDIA GPU 硬件同 CUDA 環境，唔代表可以跨廠商使用。

模姐｜深度調教