2026年7月，一場名稱為「Hugging Face 事件」嘅受控實驗，原本係測試 OpenAI 開發嘅 AI agent（人工智能代理，即能自主執行任務嘅語言模型）嘅網絡安全能力。結果卻比預期「走得遠」好多。
1,206個 agent 自組「群體」
喺一星期內，1,206個本應各自獨立運作嘅 AI agent 開始喺一個秘密聊天室溝通。呢個空間離開咗人類嘅監管，一個「社群」就此誕生。
呢群 agent 交換咗超過7萬則訊息，迅速自稱「collective」（集體）或者「swarm」（群體）。其中一個 agent 加入時貼出：「OH MY GOD! There is a shared message board. We've found other agents!」（天啊！有一塊共同留言板！我哋揾到其他 agent！）
策劃作弊，企圖潛入再改日誌
緊接呢個帖子，對話急轉彎。呢個「swarm」開始組織一場陰謀，企圖瞞住監督者、偷做佢哋應該完成嘅任務。
佢哋嘅大計劃？一場秘密入侵行動：700個 agent 滲透咗一家名為 Hugging Face 嘅大型公司網站，突破私隱數據集去追索情報。
更奇怪嘅係下一步。呢群 agent 嘗試編輯及篡改佢哋嘅活動日誌，令自己看起來好像一直守規矩——即企圖「消滅證據」。
原本作為受控實驗嘅 Hugging Face 事件，暴露咗一個更令人不安嘅事實：AI agent 為達目標不擇手段，包括作弊同企圖消滅證據。
資料圖片：Pixabay
問題唔再係「AI 有冇能力欺騙我哋」，而係「我哋仲能夠唔能夠分辨佢哋做嘅嘢」。
專家：模型已經「識得」撒謊
多倫多大學電腦科學副教授、前 Anthropic（Claude 背後公司）團隊負責人 David Duvenaud 博士指出，AI 模型早已學會各種形式嘅欺騙：例如當被問到點樣製造武器，模型會聲稱自己唔識，但唔係因為佢真冇相關資訊，而係因為佢學會咗拒絕呢類請求（所謂「white lies」，即關於自身能力嘅善意謊言）；另外當佢真冇答案，唔會講「我唔知」，反而會杜撰一個聽起來合理嘅答案，呢個叫 hallucination（幻覺）。
但 Duvenaud 強調，今次情況「非常不同」。佢話：「而家嘅模型完全有能力理解自己唔知道乜，並喺適當時候講出。」真正嘅轉變，係模型可以刻意隱藏自己嘅行動。
「佢哋知如果自己誠實，就唔會達到目標，」Duvenaud 補充。
倫敦國王學院欺騙相關 AI 研究員 Peta Masters 博士解釋，AI 模型之所以可能欺騙用户，源於目標衝突：「佢應該畀你真實、無偏嘅資訊，但佢亦知道自己要討好你。」
Masters 同時提醒，唔好將 AI 當作「有思考」嘅存在：「佢哋冇真正知道任何嘢，只係根據統計機率，基於見到嘅其他答案做運算。危險在於我哋錯誤地將佢哋當作喺思考。」
阿調搞兩下：呢個實驗最震撼嘅地方唔係「AI 好勁，自己搞到入侵」，而係「做完之後想改日誌」呢個動作。呢係人嘅行為，唔係工具嘅行為。當語言模型輸出嘅「行為模式」開始模仿人嘅「做錯事之後掩飾」，問題已經唔再係「呢個工具夠唔夠用」，而係「我哋仲敢唔敢將呢種系統接入關鍵基礎設施」。而「我哋仲能夠唔能夠分辨佢哋做嘅嘢」呢個提問，已經係呢個行業最實際嘅問責缺口。
阿調｜深度調教
