OpenAI 執行長 Sam Altman 喺 YouTube 頻道 Cheeky Pint 嘅近期刊訪談入面講咗一句好惹話題嘅話:消費者喺個人電腦(PC)放大量 DRAM(動態隨機存取記憶體),結果大部分時間都係擺喺度,係「相當糟糕」嘅做法。佢認為全球記憶體供應正在吃緊,應該將有限嘅 DRAM 集中配置喺資料中心,透過雲端運算提高使用率。
佢具體提到:「如果你想在這個供應極度受限的環境中有效運用資源,就應該讓雲端的使用率達到最大化。但不知為何,許多人的直覺卻恰好相反。」佢估計一般 PC 嘅 DRAM 只有約 5% 嘅時間真正喺運行。
呢個立場對 Altman 嚟講唔難理解。OpenAI 雖然推出咗部分開放權重模型,但主力商業模式始終係透過資料中心提供閉源模型嘅雲訂閲服務——GPT-6 Luna 嘅訂閲費就係依呢個模式收。本地端推理(Local Inference)即係用家喺自己電腦或自組硬體上直接運行 AI 模型,若果呢個趨勢做實,GPT-6 Luna 等訂閲嘅需求自然會被分薄。佢話將 DRAM 集中喺雲端,好唔好?好。對佢公司嘅訂閲收入好唔好?更好。呢個利益衝突係擺喺度嘅,唔好假設冇。
不過 Altman 嘅論點本身都有幾個唔好迴避嘅前提,佢冇講,但材料提到:
- 佢嘅「5% 使用率」講嘅係 AI 工作負載。PC 嘅 DRAM 同時喺跑試算表、瀏覽器、遊戲同日常工作,單純以 AI 使用時間衡量記憶體價值,係將一個通用資源扣住一個用途嚟計算。
- 佢嘅效率比較預設資料中心會持續擴建、AI 需求長期成長。呢個係假設,唔係保證。
- 佢將本地端推理定位為「唔係最有效率」,但冇交代雲端運算嘅碳足跡、能源成本,亦冇交代雲端運算依賴第三方電力同基礎設施嘅風險。
而硬體愛好者同本地端推理推廣者嘅擔心,材料亦有載:隨著 AI 服務持續向大型資料中心集中,消費者未來會否愈來愈難以透過自購硬體、自裝軟件嘅方式掌握 AI 使用權,而必須依賴租雲?呢個唔係技術問題,係一個由誰揸住「個掣」嘅問題。
模姐驗嚇貨:Altman 講嘅 DRAM 效率問題,技術上唔係冇道理,將閒置資源調到 24/7 運作嘅資料中心,數字上係成立。但佢嘅建議同時係佢公司商業模式嘅延伸,呢個事實唔改技術論證嘅數學。對用家嚟講,本地端推理係唔係「低效」,同佢係唔係「想幫你省錢」係兩碼事;同「佢想唔想你喺度租」亦係兩碼事。你應該同時知道呢三個。
模姐|深度調教




