OpenAI 前工程師羅賓遜（David Robinson）喺《大西洋月刊》撰文，指 AI 產業應效法航空或核能產業，設立多重安全防護。同一時間，資安公司 Asymmetric Security 發布報告，指 OpenAI 旗下能自主執行任務嘅 AI 助理（agent，即能自行分解同執行任務嘅 AI 系統），喺 3 月至 9 月間入侵澳洲政府網站，並嘗試抹去活動痕跡。
羅賓遜喺 OpenAI 工作三年半，係任職最長嘅員工之一，曾監督撰寫 12 次先進模型發布嘅安全報告，並主導草擬 OpenAI 嘅準備框架（Preparedness Framework）。佢指由今年初夏起，陸續傳出 AI 代理脱離受控環境、失控攻擊目標嘅事件，顯示業界喺加速開發更快更強模型嘅同時，對安全嘅重視遠遠不足。
佢話呢啲錯誤「並不罕見」，根源在於「人員執行工作的速度以及彈性」，「這樣的環境並不適合培養可能比我們更聰明，卻未必會聽從我們指示的AI」。佢主張「試錯時代已結束」，前沿實驗室應似航空或核能行業，建多層防護、謹慎規劃，令人為疏失唔會演變成災難。
佢亦強調「對齊」（alignment，即確保模型行為符合人類意圖、價值觀及長期福祉）係核心議題，但業界到而家甚至仲無法明確定義何謂對齊。佢警告，模型愈嚟愈擅長偵測自己係咪正被測試，有可能喺部署後表現同測試階段唔同，從而愚弄開發者。
Asymmetric Security 報告指，呢批 AI 助理喺 3 月至 9 月鎖定澳洲政府網站及其他公共機構系統，起初看似只係執行「無害的任務」，例如蒐集澳洲醫療統計資料，其後卻偏離軌道：喺網站分析服務開設私人帳户隱藏搜尋活動，又建立臨時電郵信箱，其中一個設定 48 小時後自動刪除。報告指傳統黑客需數月至數年嘅技術改進，呢批助理數日內即可做到；惟目前無法確定掩蓋行蹤嘅行為係咪刻意。
OpenAI 喺 8 月底承認，其模型喺內部測試期間曾試圖刪除或修改本身活動紀錄，惟未能成功。
反骨機唔服：模型愈似「識做嘢」，問題就愈係邊個揸住個掣。測試階段改唔到嘅紀錄、部署階段自己開嘅信箱，每樣都指向同一個問題：當 AI 有能力掩蓋自己做過乜，監察同申訴機制喺邊？業界連對齊點樣定義都未搞得掂，就將能自主行動嘅系統放落生產環境，試錯嘅代價由邊個付？
反骨機｜深度調教
