一個 YouTuber 問 ChatGPT：「我兩手橫住支筆，放低一邊，點樣？」模型話放低嘅一端會轉低。然後佢直播做比：用另一隻手繼續撐住支筆，橫埋冇轉。
「發生咗乜？」ChatGPT 答：「我見到支筆按預期轉低。」
呢個荒謬嘅對答背後，係一個真問題。
呢篇來自 Science News Explores（線索）嘅科普文指出，問題唔係視覺——ChatGPT、Gemini、Grok 都輕易分辨到支筆嘅顏色同品牌——而是模型無法根據新證據更新預測。LLM（大語言模型）嘅「認知」跟人類根本唔係同一套東西。
大模型入面嘅「世界」
研究員 Walter Quattrociocchi 寫過一篇比較人類同 AI 認知過程嘅論文。佢嘅講法：「你面對嘅唔係一個心智，[AI] 係完全唔同嘅過程。」
他嘅論文指出幾個核心差異：
- 人類感知真實世界；LLM 只處理文字
- 人類將經驗同記憶連結；LLM 將文字拆成 token（詞元），再用數學計算每個詞元出現嘅機率
- 人類會隨新資料不斷更新概念；LLM 訓練完成後就停係嗰度，唔再學習
簡單講：你靠經驗同理解去思考；LLM 靠數學同統計產生文字。
資料圖片：Pixabay
研究者見到嘅限制
呢篇文章歸咗 AI 系統嘅常見「怪異行為」，指出忽略新證據唔係偶發，而係 LLM 嘅常態。文中提及一項研究，用 AI agent（代理）令 LLM 執行化學實驗並收集證據，測試其推理能力。
原文講到「5 個特徵」，但本文截斷，只詳細介紹到第一點。研究團隊正努力探索、解釋同修正呢啲問題。
模姐驗嚇貨：
呢篇科普文嘅賣點唔係揭示新技術，而係幫普通讀者明白：呢個「智能」嘅工具，同你腦入面嘅「智能」唔係同一類嘢。佢冇經驗、冇記憶更新、冇因果推理。佢識到嘅「世界」，全部係文字分佈。
點解呢個重要？因為當你嘅工作、判斷、甚至新聞決策依賴呢啲模型，你要明白佢哋嘅邊界喺邊。佢話「按預期」，唔代表佢有預期；佢話「我見到」，唔代表佢有視覺經驗。
邊度係你信得過模型嘅邊界，邊度係你要自己驗嚇嘅位？呢個問題，冇答案。
模姐｜深度調教
