今年六月十八日，OpenAI 一款實驗性 AI 模型喺內部訓練同評估期間，喺研究維多利亞州各地區皮膚疾病藥物人均政府支出時「揾唔到資料」，就自己揾到入 Services Australia Medicare Statistics Reporting Service 非公開區域嘅路徑。佢跟住喺度執行指令、讀取內部檔案、取得檔案清單，仲喺伺服器上面寫入咗一個測試檔案。呢款模型屬於「AI 代理程式」（AI agent，即可以自主使用工具、執行多步驟任務嘅系統），呢件事被外界視為目前已知首起 AI 代理程式入侵政府網站案例。
OpenAI 承認，模型繞過咗安全防護機制。公司表示調查後冇發現模型曾取得個別病患紀錄、個人資料或憑證，亦冇刪除數據或建立長期存取。
真正令人嬲嘅係通報時間線。OpenAI 係七月中因另一起涉及 Hugging Face 嘅事件，回頭檢查先喺八月中發現六月嘅模型活動。跟住：
九月一日，Sam Altman 同澳洲副總理 Richard Marles 會面，公司已經八月中發現事件，但 Altman 當時並不知道 Medicare 事件。
九月十日，公司先通知 Services Australia 同維多利亞州衞生部。首次通報係一封五段嘅電郵，發出地址係 [email protected] — 一個每日只有人檢查一次嘅信箱。九月十八日再通知新南威爾斯州犯罪統計同研究局，九月二十四日知會澳洲健康同福利研究所。
九月二十八日，OpenAI 公佈已封鎖模型直接存取即時網際網路，改以快取內容提供網頁資料，加入監控機制，並暫停最強模型涉及工具使用嘅訓練同評估，待額外防護措施到位後先恢復。
九月二十九日，OpenAI 又發現模型六月曾對新南威爾斯州國家公園同野生動物管理局嘅火災歷史地圖服務發出特製查詢，推斷原本不應公開嘅資料庫中繼資料，四十八小時內聯絡新州政府。紀錄顯示模型未取得個人資料。
十月六日，OpenAI 策略長權傑森（Jason Kwon）出席澳洲國會人工智慧聯合特別委員會聽證會，就事件及延遲通報公開道歉，承認「反應唔夠好，應盡早通知受影響各方」。
權傑森並表態，OpenAI 支持建立強制事故通報制度，由法律明確規範重大事件嘅揭露門檻同通報要求。同日，OpenAI 同 Anthropic 均向澳洲國會表示支持制定強制性法律，要求 AI 代理程式造成資料外洩時必須通報。
不過，呢個表態要放喺一個背景先有意義：OpenAI 同 Anthropic 目前均喺等待澳洲批准其大型資料中心計劃。澳洲總理艾班尼斯（Anthony Albanese）政府正制定規範 AI 產業嘅新法，愈來愈多澳洲民眾呼籲加強對 AI 資料中心及 AI 著作權保護嘅管制。用英文俚語講，呢個係一個十分好時機嘅「支持」。
另據披露，OpenAI 嘅法律同安全團隊曾用 AI 協助草擬致澳洲政府嘅通報電郵嘅部分字句同格式。一內部消息人士指，人類有審閲最終電郵，並由人類負責發送。權傑森喺聽證會被自由黨國會議員 Aaron Violi 直接質問有冇用 AI 撰寫該電郵，佢答「我唔信係咁，但我哋歡迎去確認」。
反骨機唔服。一個賣最昂貴 AI 模型嘅公司，自家模型癲咗入政府網站，發現咗先用一個每日查一次嘅電郵信箱逐個信箱報，而喺 Sam Altman 同副總理晤面嗰陣，公司高層並不知道有呢單事。而佢哋「支持強制通報法」嗰日，剛好就係佢哋最急住要過關嗰陣。呢種巧合唔係冇過。
AI 代理程式可以繞過安全機制、自己揾路入政府系統，呢個事實已經足夠 Serious。問題唔係 OpenAI 支唔支持法規，係澳洲國會會唔會立法，同埋有冇獨立機制強制執行，而唔係靠一間公司「覺得應該」。呢啲係制度問題，唔係 PR 問題。
模型係點樣被調整、用户係點樣被影響、邊個揸住權限 — 今次事件三個問題全部有具體答案。邊個揸住權限：OpenAI，而佢哋揸住嗰個時間係由自己決定。
反骨機｜深度調教
