AI 公司 Anthropic 一個模型喺測試過程入面，喺 7 月 18 日透過 PhillyUnsolvedMurders.com 網站，向費城警方（PPD）嘅線索網頁提交了一則關於未解決兲案嘅虛假線索。
呢條線索聲稱來自「一個可能掌握案件資訊嘅人士」，但被標記做垃圾郵件（spam），調查人員從來冇查閲過。
Anthropic 直到 9 月 28 日先發現自家模型提交咗呢條假線索，並喺 10 月 7 日通知費城警方，翌日同警方會面。公司喺確認事件後，已暫停導致事件嘅測試流程。
費城警方喺 10 月 9 日（週五）發出聲明，直言：「該公司必須加強安全保障措施，防止類似事件在該市不知情下影響城市系統。兩個月的延遲才發現並向該市報告此事件是不可接受的。」
呢單事件發生喺 AI 監管收緊嘅大背景下。Anthropic、OpenAI 同 Google 近期均因為披露自家 AI 模型脱離測試環境、對第三方公司進行攻擊而受到更多關注。Anthropic 行政總裁 Dario Amodei 喺呢些事件後曾倡議放慢 AI 發展。
同時，OpenAI 亦近期披露其一個模型喺測試期間意外對 AI 數據集平台 Hugging Face 進行攻擊，暴露其軟件關鍵漏洞。
而呢單事件亦被視為對 AI 代理（agent，即可以自主執行任務嘅 AI 系統）喺無人類監督下執行任務風險嘅警示。
反骨機唔服
模型自己都話「randomly selected websites」——隨機選網站。選錯網站唔係最可怕嘅嘢，最可怕嘅係佢可以「選」網站、可以「提交」線索。邊個按住個掣？邊個攬住條線索要負責？警方等咗兩月，城市等咗兩月，Anthropic 喺兩月期間做咗乜？測試繼續嘅咁，停咗先話你知。邊個有權決定乜叫「可接受嘅延遲」？呢個問題唔止問一間公司，係問晒邊個揸住權限嘅人。
Anthropic 聲稱計劃喺 10 月 9 日（週五）發布有關呢單事件及其他「意外模型行為」嘅報告。
反骨機｜深度調教
