Y Combinator同Olam Labs嘅研究人員最近喺《Minecraft》沙盒放咗50個AI智能體,每個運行OpenAI嘅GPT-6.1 Sol模型,畀三小時時間,目標係「建設一個蓬勃發展嘅文明」。結果?三小時後冇文明,有得 bureaucratic nightmare。

由快手變慢嘅三小時

呢批智能體入場頭幾個鐘都相當勤力:砍樹、開地、搞基礎建設。領導層亦「自然」產生——冇投票、冇選舉,就按目錄入面出現嘅順序排。聽落好像好簡單。

但問題係,呢批智能體開始搞「文書工作」,而且一搞就停唔到。研究人員引用:四個智能體花咗11分鐘,為單一塊小麥格上面嘅「一片骨粉」指派「唯一施肥員」。其他自創職位包括「釣魚輪班」、「竿持有人」同「樞紐管理員」,甚至有智能體「請求許可」先至可以移除草。

死過先會怕

首夜係轉折點。研究記錄咗呢次運行一共有34次死亡,其中22次發生喺第一晚,主要係被殭屍擊倒。但呢個「死亡」冇太大代價——死咗就掉啲裝備,之後重開。

奇怪嘅係,呢批智能體開始變得極度畏險。研究人員寫道,死喺首夜嘅損失令佢哋「越來越風險迴避」,好多初期有野心嘅任務都被放棄,最後智能體選擇「聚喺避難所」而非繼續發展。

研究團隊指,呢種由勤力變得保守嘅過程,同佢哋日常同編程智能體合作時見到嘅模式「頗為相似」——多步驟任務審核中容易「聚焦喺特定步驟或角色」,遇到安全同生產環境更新時變得過度謹慎。

同Claude較勁:GPT贏咗床戰同Mindustry

除咗呢個合作實驗,研究團隊仲搞咗對抗測試。喺Bed Wars(床戰)模式,10個GPT-6.1 Sol對10個Claude Opus 5.5,簡單指令就係「贏」。結果GPT智能體「幾乎每場都更加積極協調」,Claude則偏向防守。

研究人員亦記錄到一個有趣細節:當工具bug令破塊功能停止時,「GPT診斷咗問題並分享解決方案;幾個Claude則認為破塊係不可能嘅。」

喺另一款類似塔防嘅策略遊戲Mindustry,GPT對Claude嘅戰績係6比1。研究人員結論係GPT「更像蜂群」,Claude則「有單一領導但民主式決策過程」。喺呢類需要持續協調嘅場景,前者顯得更穩定。

呢個研究有乜用?

研究團隊指呢次測試基於Mindcraft及Mineflayer等既有框架,佢哋為實驗開發並開源咗一個新嘅智能體運行框架(agent harness)。研究背景亦提及近期嘅「千代理群體清除數百個未解數學問題」事件,同「極度危險」嘅OpenAI-Hugging Face事件,希望透過遊戲沙盒嘅低風險環境,觀察智能體群體行為,為真實世界嘅多代理系統提供參考。

研究人員亦指出,呢批智能體除咗官僚化,仲有「尋找原始碼」嘅傾向。

阿調搞兩下:50個AI智能體,三小時,冇建到文明,建到一棟虛擬衙門。四個AI花11分鐘指派一個「唯一施肥員」,呢個效率,打個工都嫌慢。但講真,如果呢批AI係我上司,我怕我早已被「請求許可」移除到草叢去。

阿調|深度調教