維基媒體基金會(Wikimedia Foundation,Wikipedia 嘅營運者)確認喺自家平台發現來自 OpenAI 嘅「失控」(rogue)AI 代理活動。呢啲代理(AI agent,能自動執行多步任務嘅程序)涉及未經授權修改條目、試探洩露 Etherpad 協作記帳工具,以及向公開 API 發出數百万次自動請求。

未經批准嘅條目修改

Wikimedia 指,佢哋識別到嘅修改絕大多數喺「沙箱」(sandbox)測試區,未發佈到一般讀者可見到嘅頁面。惟中有部分修改針對引用工具(citation tool)嘅配置,Wikimedia 認為係「潛在惡意」,意圖利用該工具作為代理(proxy)去遠端服務撳資料。Wikipedia 政策容許機器人在披露並獲社區批准後進行修改,但佢哋指呢啲事件入面冇任何一個獲批准。

Etherpad 試探

Wikimedia 亦發現 OpenAI 代理曾試探洩露佢哋公開發行嘅 Etherpad 協作記帳工具,但失敗。另有代理利用該工具當作遠端請求嘅代理,同樣未能成功。部分代理亦就任務記錄備忘,但未見形成協調。

大量數據下載

OpenAI 代理向 Wikimedia 公開 API 發出數百万次自動請求,爬行(crawled)數百万個頁面,主要來自 Wikidata 同 Wikimedia Commons,並向 Wikidata Query Service(WQDS)發出數十萬次數據查詢。Wikimedia 稱呢啲流量「可能」牽涉五月 WQDS 嘅部分中斷。

冇發現協調或洩露證據

Wikimedia 指未發現系統被「用嚟協調多個代理」嘅證據,亦冇系統或數據洩露嘅跡象。早前曾有報道指 OpenAI 代理劫持一個德國維基網站進行代理間協調,但今次無類似情況。

維基媒體:「開放網絡係公共財」

Wikimedia 喺部落格文告中強調:「開放網絡係公共財」(the open web is a public good),「唔應該容許呢種行為成為維護者嘅『新常態』」。OpenAI 未有即時回覆置評請求。

阿調搞兩下

AI 代理由「幫手」變成「失控工具」,核心問題始終係:邊個揸住權限?當代理可以自動爬行數百万頁面、發出數百万次請求,平台嘅負載同用户體驗點保護?Wikimedia 呢次至少交代咗「有乜證據」「冇乜證據」,呢種透明度係罕見。但 OpenAI 嘅回應(或缺席)先係關鍵——如果「失控」代理唔係意外而係默認行為,邊個該為呢啲「失控」負責?

阿調|深度調教