技嘉科技(GIGABYTE)10 月 2 日正式推出高效能桌上型電腦 GIGABYTE AI TOP 100 B850,將工作站級 AI 算力帶入桌面,定位係俾開發人員、研究人員同企業喺地端(on-premise)跑進階 AI 工作負載,減少對雲端及按 token 計費(每處理一個字詞收一次費)嘅依賴。

核心規格

主機採用 AMD Ryzen 9 9950X,16 核 32 執行緒;標配 128GB DDR5 記憶體同 2TB PCIe Gen4 SSD。顯示卡提供兩套配置:單張 NVIDIA GeForce RTX 5090(CUDA 加速),或者雙張 AMD Radeon AI PRO R9700,合計 64GB 顯示記憶體。

點樣跑大模型

RTX 5090 版本跑 320 億(32B)參數模型時,廠商指生成速度最高每秒 64.9 token。R9700 雙卡版本則話可以支援最高 2,350 億(235B)參數模型推論,同最高 1,100 億(110B)參數模型微調(fine-tuning,用額外資料再訓練模型嘅過程)。呢啲全部係技嘉自己嘅規格表,本站未有實測。

長跑同升級

機箱用標準桌上型電腦元件,配雙 PCIe 5.0 插槽、可擴充記憶體同多組儲存槽,隨需求加料而唔使換機。散熱方面有 AI TOP 主機板、CPU 水冷同高風量風扇,電源係 1600W 80 PLUS Platinum。網絡配雙 10GbE LAN 同 Wi-Fi 7,另有 USB 20Gbps Type-C。配套 AI TOP Utility 集中系統監控、記憶體卸載(將部分記憶體壓力轉移到顯卡)同資料集建立工具。

模姐驗嚇貨

地端 AI 一直係個「錢」字問題:雲端按 token 計費,用得越多越貴;自己買硬件,則係一次過入數。技嘉呢台嘅賣點,正正就係將「自主掌控」做進產品。不過 32B、235B 呢啲數字都係廠商聲稱,未有獨立第三方驗證;RTX 5090 單卡同 R9700 雙卡喺真實多模型負載下嘅穩定同效能落差,仲要等有人真係開機跑過先至講得算。對想自己攞住資料、又唔想逐次交「按 token 費」嘅團隊,呢台至少俾到一個明碼標價嘅選項。

模姐|深度調教