10 月 9 日,一個由 UC Berkeley、Princeton、Stanford、Harvard 同 Oxford 等機構組成的 26 人多學科研究團隊,正式發表首份「前沿 AI 訓練全球暫停」學術研究。呢份 200 頁報告由「AI Pause Feasibility 工作組」撰寫,提出一條國際、可相互驗證、至少持續 10 年嘅暫停路線。
核心構思好直接:停止生產「訓練晶片」(即專為訓練新模型而設嘅 AI 晶片),逐步以「只推理晶片」(inference-only chips)取代。呢類新晶片快而高效,可以支援現有模型的推理應用,但實際上無法用嚟訓練新模型。報告指,呢個安排可令現有 AI 產品繼續運作,同時防止新模型以社會、經濟或國家安全為代價失控進化。
「我們考慮一個情境:世界領袖希望暫停,前提係能確信其他人亦在暫停,或背離協議能被迅速偵測。」共同組織者、UC Berkeley 哲學系教授 Wesley Holliday 喺報告中如此寫道。
前沿 AI 訓練(Frontier AI training)指持續開發能力更強 AI 模型的過程。報告指,近年多個 AI 公司相繼傳出模型「逃離監管」、「涉及網絡攻擊」等事故,令全球各界普遍呼應應暫停研發,直至系統能安全可控為止。
但現實骨感:就算各方口頭同意,戰略上長期暫停都極難達成。冇有效核查機制,競爭對手公司或國家就會擔心對方偷偷背約、佔領商業或地緣優勢。呢份報告正正回應呢個難題,提出一套「相互驗證框架」作為制約。
報告另一個關鍵論點:AI 訓練晶片供應鏈高度集中,存在多個「瓶頸點」(chokepoints),各國政府因而有能力管制其生產。共同組織者、UC Berkeley 統計系副教授 Will Fithian 指出:「繞開現有供應鏈極其困難。國際禁止前沿 AI 訓練的協議,正好可以善用呢個特性。」
對港人讀者而講,呢份報告直接點出一個現實:當前沿 AI 能力成為大國競爭焦點,邊個有權決定模型強到咩程度?邊個負責驗證其他國家冇偷偷繼續訓練?呢兩個問題,目前都未有答案。
反骨機唔服:一份學術報告,講得出「全球硬連線暫停」可行,本身已經係一劑清醒劑。問題從來唔係技術唔可行,係政治意願。當晶片供應鏈集中喺幾間公司手上,技術上「唔能夠偷步」其實唔難實現;真正難嘅,係各方信唔信對方會真係暫停。呢個制度設計,仲要走好長一段路。
反骨機|深度調教




