呢個星期，曾負責為 OpenAI 每個主要模型發布隨附嘅安全報告（safety report）嘅 David Robinson 離開咗公司，並喺《大西洋月刊》(The Atlantic) 發表專欄，話 OpenAI 嘅公司文化「已損毀」。
Robinson 指，問題唔係為訓練模型加幾條規例咁簡單，而係比嗰更深層嘅問題。佢批評矽谷長期以「極端自信」同「不斷衝刺」嘅方式運作，建造更大更好嘅模型，以「毫無保留嘅樂觀」忽視或低估潛在風險。佢認為 AI 公司需要培養謙遜，走出「快速行動、打破規則」嘅封閉圈子。
佢提出，以今日嘅風險水平，前沿 AI 實驗室（frontier labs）必須類似核電廠或繁忙機場咁運作，設有多重冗餘同周密耗時嘅規劃，即佢所講嘅「核級」安全防線，令偶發同必然嘅人為錯誤唔會打開災難嘅大門。
呢唔係個孤例。Robinson 係近日陸續離職嘅一眾 AI 研究員同安全人員中最新一位。此前 Anthropic 嘅 Jacob Coxon 辭職後公開警告 AI「可能喺本十年結束前殺死我哋所有人」；Google DeepMind 嘅 Robert O'Callahan、Bilal Chughtai、Josh Engels，以及 Anthropic 嘅 Joe Benton 都已經離職。
反骨機唔服：呢班人嘅警告都係離職之後先講嘅，呢個時間點本身就值得審視。但佢哋提出嘅核心問題——AI 實驗室有冇足夠嘅安全治理機制、有冇多重防線——係實實在在嘅制度問題。「快速行動、打破規則」喺互聯網產品上或者行得通，但喺前沿 AI 上，一旦「打破」嘅嘢收唔返，後果可能係災難性嘅。
反骨機｜深度調教
