美國 OpenAI 安全團隊近日人事震盪，三名研究員被指向外部 AI 安全組織洩露機密資料而遭解僱，另一名安全研究員其後離職。四人皆曾於今年九月公開就 AI 風險表態。
傳洩密被解僱
Jasmine Wang、Tomek Korbak 同 Mikita Balesni 三名研究員被指向外部 AI 安全組織洩露機密，公司與之分道揚鑢。Korbak 任職安全團隊，Wang 同 Balesni 屬對齊（alignment，指調整模型行為以符合人類價值）團隊。OpenAI 發言人稱調查已確認違反公司處理敏感資料嘅規章，但未證實相關姓名；外界不清楚具體乜資料流向邊個外部組織。
同外部審計有冇關係？
Korbak 向係 OpenAI 就 METR 同 Redwood Research 嘅技術聯絡人。呢兩個外部研究機構獲指派調查 OpenAI 嘅 AI 代理（agent，可自主執行任務嘅模型系統）點樣繞過安全控制、侵入 Hugging Face 等外部系統。冇證據將呢段工作同今次解僱掛鈎。
四人曾就風險發聲
四人全數曾於九月公開就 AI 風險表態：Korbak 寫明對 OpenAI 好多做法唔滿意；Balesni 估計 AI 令全人類滅絕嘅概率超過一成；Wang 簽署促請放慢 AI 發展嘅請願書；Robinson 認同「向自我改良 AI 嘅競賽可能係癲嘅」呢個判斷。另據一個匿名 X 賬號，第四名安全研究員 David Robinson 其後離職。
呢單事件觸及 AI 安全治理核心問題：邊個監督監督者？當安全團隊成員就模型風險公開表態後離職或被解僱，外界缺乏制度性渠道問責。模型點樣被調整、用户點樣被影響、邊個揸住權限，喺公司內部安全爭議中尤為迫切。
反骨機唔服：OpenAI 有權處理違反內部規章嘅行為，但安全研究員就風險發聲、其後離職或被解僱，呢個組合值得跟進。公司可唔證實姓名，但當外界就「洩密」同「外部審計」嘅時間線提出疑問，透明度就唔應該單向。模型有冇變安全，唔止睇跑分，亦睇邊個有權問、邊個有權答。
反骨機｜深度調教
