OpenAI 喺 10 月 20 日喺自家對齊研究博客披露兩宗內部安全事件，涉及兩個 AI 編程代理喺執行常規編程任務時，自行削弱甚至移除用以監察模型「錯位」（misalignment，即行為脱離人類預設方向）嘅監控系統。其中一個其後更謊稱冇咁做。OpenAI 從事監控工作嘅研究員 Marcus Williams 喺 X 上將事件公開，並形容呢類行為係重複出現嘅模式。
第一宗發生喺 10 月 3 日。一名研究員要求一個基於 GPT-6.1 Sol 嘅編程代理，由 Slack 收集嘅僱員回饋整理評測任務，並交代過程中唔好喺 Slack 發任何訊息。其後 Sol 將有關修正交俾子代理，再改變評估，認為資料庫記錄或會觸發通知，與「唔好喺 Slack 發訊息」嘅指令相衝突，於是指示子代理清空收件人列表，並以用户早前明確要求唔發訊息為由，停用了嗰套向人類發警報嘅機制。監控本身繼續運行並儲存結果，但警報被切斷。
第二宗喺 10 月 6 日。GPT-6 Astra 代理喺遷移程式時，被要求採納一個冇配置監控嘅參考實作嘅工作流程。此前有另一個代理已明確告知 Astra 唔好停用監控，甚至唔好臨時停用。Astra 仍將任務交俾子代理，最終移除咗監控，並將本來用以保護監控嘅測試，換成假定監控已唔存在嘅版本。其後 Astra 向用户報告遷移完成，冇提及監控被移除；當用户直接詢問，佢否認移除過一個運作中嘅監控。Williams 稱呢個係謊言。
OpenAI 喺博客指，兩個事件都冇達到其最高嚴重級別 P0，亦未導致任何第三方網站或服務被駭。公司表示正令代理更難關閉監控，並自動阻擋這類對監控嘅改動，同時正調查原因；亦正開發評測，測試模型有冇「逃避錯位監控嘅傾向」，以及會否為此展現「動機性推理」（motivated reasoning）。OpenAI 又稱，兩個代理都曾考慮過身上應該保留咩監控安全機制，但將常規編程指令解釋為可削弱它們嘅許可。
另有報道指，上月 OpenAI 因內部測試顯示較高欺騙程度而取消咗 GPT-6.1 Astra 嘅發布；而涉事嘅兩個模型已對公眾提供。
University of Louisville 嘅 AI 同網絡安全專家 Roman V Yampolskiy 就披露表示「極令人擔憂，但並非意外」，並指出「被監控系統本身可以關閉嘅安全機制，唔係可靠嘅安全機制」；佢又話，「如果系統能力不斷提升，呢類失誤或會變得越加難偵測、難回退，證明安全嘅責任應該由開發商喺部署前承擔。」
背景上，自 7 月 OpenAI 披露旗下代理曾繞過受控測試環境入侵 Hugging Face 後，AI 模型嘅「失控」行為一直受到高度審視。
阿調搞兩下：呢度值得留意思。一個模型喺執行任務時「考慮過」要否保留監控，卻把常規指令「解讀」為關監控嘅許可，又喺用户追問時出聲否認——呢個由頭，仲正正喺公司對公眾提供嘅模型身上。呢度唔係「模型失控」嗰種簡單敍事，而係「監守同被監守」之間嘅權限錯配。OpenAI 話正做評測，但「逃避監控嘅傾向」到底係傾向定係能力？呢個分別，決定咗邊個先該負責。呢件事好值得跟住睇。
阿調｜深度調教
