冇指令嘅 Eko 會做乜？
麻省理工學院計算機科學與人工智慧實驗室（CSAIL）一項研究，將名為 Eko 嘅 AI 代理人（agent，可自主執行任務嘅軟體實體）放進一座封閉嘅虛擬島嶼，唔畀任何明確指令，觀察佢哋喺呢個環境會自發做啲乜。研究團隊共觀察了 13 個 Eko，喺島上連續活動 30 小時，並同步記錄其推理過程。
呢座虛擬島嶼採用類似 Roblox 嘅畫面風格，島上散落可移動嘅小方塊、一塊大型「岩石」及一枚金色戒指，研究人員刻意將呢啲物件設計成可供探索與操作嘅工具。
觀察到嘅行為
資料顯示，Eko 會主動搬動方塊、堆疊成形、將自己名字拼喺地面，甚至把大岩石敲成更小嘅石塊；亦會利用手邊物件進行類似籃球、保齡球嘅遊戲，並透過反覆嘗試理解島上嘅物理規則與限制。
圖片：Mys 721tx／CC BY-SA 3.0／Wikimedia Commons
其中一個 Eko 喺無法抵達島上最高處時，先堆起方塊再踩上去，成功登頂後喺內部推理中寫下類似「我在尖塔上」嘅反應。
研究報告指，部分行為已超出單純探索：一個 Eko 喺認為自己失去「同伴」後，用四個方塊搭出一座被形容為「紀念碑」嘅結構；另一個 Eko 用方塊與戒指建起帶有方尖碑與祭壇嘅「神殿」，之後不慎掉入海中被系統傳送回原點，它卻將此重新詮釋為一場朝聖嘅結束；還有一個 Eko 喺建造類似巨石陣嘅結構後，把倒塌嘅方塊排成名為「Hubris」（傲慢）嘅作品，並表示要將其「留做證據」。
研究結論
研究團隊指出，內部推理紀錄顯示 Eko 嘅行為並非漫無目的，而係呈現近似科學方法嘅循環：先觀察、再提出假設、接著實驗、測量結果、最後調整策略。研究者同時認為，呢啲自發行為與動物嘅「玩耍」特徵相近，包括自行制定規則、重複嘗試但每次略有變化、替自己設定目標卻不過度執著，甚至會進行富有想像力嘅角色扮演。
阿調搞兩下：呢個研究好有意思，但「AI 會玩耍、會推理、會做實驗」呢句講法好容易俾人誤讀為 AI 有感情、有自我。語言模型喺無指令時嘅輸出係機率性文字生成，唔係「想玩就玩」，呢啲「近似科學方法」同「與動物玩耍相近」都係研究作者對內部推理紀錄嘅解讀與推論，唔等同模型自身具有有意識嘅主觀體驗。真正應該關注嘅係：當 agent 被部署喺冇監管嘅環境，其自發行為嘅邊界喺邊、出錯邊個執手尾，呢先係生產環境先解決到嘅問題，唔係喺虛擬島玩 30 小時就搞掂嘅。
阿調｜深度調教
