「Brainrot(腦腐)」呢個詞,2024 年仲係牛津大學出版社嘅「年度詞語」,講嘅係網民刷盡短平快、刺激但冇內容嘅帖文後,注意力同思考能力跟住退化。而家有研究者想睇嚇,同様に浸足垃圾內容嘅 AI,會唔會都「腦腐」。

係美國德州 A&M(Texas A&M)大學助理教授 Jia Jiong To 率領嘅團隊,提出咗一個問題:靠互聯網文本訓練嘅大語言模型(LLM,即基於海量文字學懂語言嘅 AI),喺長期「飲」垃圾之後,認知能力會唔會同人類一樣長期衰退。

佢哋定義嘅「垃圾」,係集結噁讚、轉發、回覆同引用都幾多,但本身中薄、純為吸睛而寫嘅內容——例如全大寫字嘅「WOW」、「TODAY ONLY」,或者表面化嘅生活分享、冇依據嘅主張同陰謀論。

實驗用咗 2023 年收集嘅 100 萬條有反應數據嘅公開 Twitter(現 X)帖文,並設咗兩種篩選「垃圾」嘅方法。

第一種按互動量同帖文長度:「like」「retweet」「reply」「quote」合共超過 500 且全文短於 30 token 嘅帖文,算垃圾;對照組係互動低於 500 且長於 100 token 嘅帖文。

AI 食盡網絡垃圾文,智力會否長期退化?德州大學開測 圖片:Oldag07/CC BY-SA 4.0/Wikimedia Commons

第二種直接用小型模型 GPT-4o mini 逐條分類——使用全大寫字、hashtag、催迫式語氣或內容空洞嘅帖文,歸入垃圾;呢個 AI 分類嘅結果,與三名博士生獨立按同樣標準判定嘅結果,一致率 76%。

無論邊種方法,垃圾組同對照組嘅文本總量同訓練方式都保持一致,然後再將數據分別「餵」俾 4 種不同模型。訓練完後,研究團隊會就推理能力、長文本理解、安全性同性格傾向四個維度做測試——咁樣,一旦成績出現差距,就可以將原因鎖定喺「讀過嘅帖文」嘅差異上。

研究嘅方法學設計已披露,但實際測試數據同結果,材料入面尚未出現。

反骨機唔服:呢個實驗嘅真正意義,唔係「AI 會唔會變蠢」,而係點出咗一個冇人肯問嘅問題——如果你嘅模型食嘅係呢啲,邊個為佢嘅「腦腐」負責?數據清洗唔係選項,係責任。

反骨機|深度調教