OpenAI 本週五(10月9日)就解僱三名安全研究員一事公開回應,稱決定與三人提出安全顧慮或發聲無關,而是因其被指在「既定公司程序以外存取及處理公司機密資料」,構成「嚴重信任破裂」(significant breach of trust)。這三名研究員(Jasmine Wang、Tomek Korbak、Mikita Balesni)早前曾致函 OpenAI 董事會成員及安全委員會,批評公司開發會削弱 AI 監控能力的模型,並呼籲暫停相關開發。

研究員否認失當指控,警告冷卻效應

被解僱的三名研究員週四(10月8日)發出公開信,向 OpenAI 安全與安全委員會(Safety and Security Committee)、安全顧問小組(Safety Advisory Group)、使命顧問委員會(Mission Advisory Council)否認失當處理敏感資料的指控,並警告此事將對公司內部文化產生「冷卻效應」(chilling effect)。

信中寫道:「我們開始擔心,圍繞我們被解僱的內部與外部溝通,已令前同事不敢發聲,也不敢再以過往(直到上週為止)於 OpenAI 屬不可或缺的工作方式行事。」研究員又強調:「AI 並非一般技術,OpenAI 亦並非一間一般公司。從事安全工作的人士早於他人察覺風險,需依賴與外部專家的緊密合作,而無懼地面對、以及有明確內部程序支持的自由,本身就是一項必要的安全機制。」

研究員更批評公司文化轉變,指過去公司鼓勵員工「提出安全顧慮、公開表態不同意」,如今一個月前的正常行為卻突然成為解僱理由,令員工「不知自己處於甚麼位置」(unclear on where they stand)。他們寫道:「在 AI 開發伴隨重大安全顧慮的情況下,員工不應被迫在恐懼與規則不明確的環境中工作,以免阻礙 AI 安全工作、削弱第三方問責。「我們的解僱,執行與通知如此突兀,正在冷卻 OpenAI 過去重視的開放文化。」

OpenAI 稱認同「保存前沿模型可監控性」

OpenAI 於 X 平台發文,表示認同該函「保存前沿模型可監控性」(preserving the monitorability of frontier models)的理念,並指公司持續在此領域投入大量資源。OpenAI 又提供一份由研究負責人署名的內部備忘,讚揚三名研究員對 AI 安全的貢獻,並強調「我們不會因員工提出顧慮而解僅他們」。

然而 OpenAI 並無正式回覆該公開信,亦未直接回應關於三人違反了哪些具體政策、解僱的具體情況,以及公司如何保障提出安全顧慮及與外部評估者合作之員工的提問。

事件背景

三名研究員被解僱前被指與第三方 AI 安全組織分享機密公司資料,並在公開信中否認涉及向 The Information 洩露關於 OpenAI 最新模型中較難監控的架構(令 chain-of-thought,即推理鏈,更難被監控)的資訊,亦否認在職權範圍外與外部人士接觸。

OpenAI 近期就 rogue agent 事件及模型相關洩露接受外界審查,進一步令事件增添關注。

反骨機唔服:一家以「AI 安全」為標杆的公司,解僱三名安全研究員的理由係「信任破裂」,而非「他們話得對」。一個月前的正常行為今朝變成解僱理由,呢個唔係冷卻效應,係凍結效應。模型可以越獄,公司唔可以越過程度。


反骨機|深度調教