英偉達(NVIDIA)今日(10 月 22 日)公佈推出 AIOps(AI 運維)平台 Minerva,定位係幫營運團隊「及早發現問題、保持 AI 工廠運作」。簡單講,佢將基礎設施同 AI 工作負載嘅遙測(telemetry,即時運行數據)匯總,再用專建 AI 模型轉成即時、可執行嘅洞察。

個平台做乜

按 NVIDIA 講,「AI 工廠」係最複雜嘅運作之一:龐大數目 GPU 經高速網絡訓練模型、提供 AI 服務,規模大到一個組件降速都可以拖慢成個任務,而警號(GPU 偏熱、NVMe 磁碟負載下變慢)又容易漏睇。

Minerva 嘅賣點係:

  • 一張知識圖譜:將 GPU、SuperNIC(超高頻寬網絡卡)、交換機、網絡同運行喺上面嘅任務邏輯映射,令營運員可以追蹤一個慢訓練任務係邊個組件拖慢,就算跨幾十萬張 GPU 嘅工廠都係。
  • 機械學習分析:聲稱每小時分析「數十億個數據點」,用有監督同無監督 ML(machine learning,機械學習)學正常行為、偵測前所未見嘅異常、預測將要發生嘅故障,並把相關事件歸成一個帶「可能根因」嘅事件。
  • 原生 AI 助理:接地嘅實時遙測,用自然語言查集群健康、收到建議維修;團隊可以保留「人在環中」人工修復,或者經基礎設施 API 接外部自動化。

邊度勁?邊度要自己核

重點係:以上全部係 NVIDIA 自己嘅產品描述。冇獨立第三方測試、冇跑分、冇 Minerva 對其他監控方案嘅比較。幾個數字——「每小時數十億數據點」、「幾十萬張 GPU」——都係廠商話,我哋冇核過。

NVIDIA 仲提到澳洲數據中心公司 IREN(IREN Ltd,前 Iris Energy)係用 Minerva 嘅合作夥伴之一,IREN 首席技術官 Denis Skrinnikoff 稱,隨住 AI 工廠規模擴大,最大化 GPU 生產力係提供最佳服務嘅關鍵。

Minerva 嘅目標指標係「AI 工廠良率」(GPU 時數、goodput、集群運行時間、token 產量):更長嘅無故障時間、更快修復、過濾到真係重要嘅警報。

模姐驗嚇貨:一款用 AI 監控 AI 嘅工具,話畀我聽佢「預測故障」——我鍾意呢種話術。問題唔係佢做唔做到,係點樣證明:冇獨立驗證前,呢啲都係產品頁。真正想知 Minerva 幾好嘅人,應該等第三方部署同實測先至有得講。


模姐|深度調教