AI 研究機構 Epoch AI 發表報告《The Plunging Price of Thought》,指喺相同測試表現下,AI 推論(inference,即模型實際產生答案嘅運算)成本,自 2023 年起平均每季下跌約 47%,相當於每年便宜約 13 倍,跌速超越摩爾定律(Moore's Law)所描述嘅晶片發展趨勢。對企業而言,價格急跌亦帶來一個問題:是否仍值得長期依賴單一 AI 供應商?

報告將 AI 產生答案嘅能力稱為「人工思考」(artificial thought),並同多項科技嘅成本變化做比較:按平均每年跌價速度,AI 推論約為 DNA 排序嘅 4 倍、傳統運算技術嘅 6 倍、鋰電池嘅 18 倍、早期電力發展嘅 54 倍。Epoch AI 提醒,AI 服務持續演變,跨技術比較只能作參考;若將跌速延伸至約五年,累計降幅可達數十萬倍,惟報告主要分析約三年數據,更長期屬推算。

以 GPQA Diamond 科學問答測試為例,Epoch AI 估計 OpenAI 於 2025 年 1 月推出嘅 o3,每題平均花費約 0.3 美元可達報告採用嘅 75% 表現水平;不到 18 個月後推出嘅 GPT-5.6 Luna 達到相同水平,每題成本約 0.0004 美元。按報告數據計算,成本下跌約 725 倍,就好似一輛售價 5 萬美元嘅新車跌至約 69 美元。

不過不同任務嘅跌價速度並唔一致:數學測試所需成本每年下降約 16 至 19 倍,棋類等遊戲測試約 7 至 10 倍。某表現水準剛達業界前沿時,其成本平均每季下跌 66%;約 2 年後,季度跌幅放緩至 32%。研究人員推測,廠商初期可憑領先表現收取較高價格,隨住競爭對手追上,價格便迅速回落。

有兩點限制要留意。其一,Epoch AI 衡量嘅係特定測試表現所需嘅最低成本,並非用户實際支付嘅價格,報告亦冇斷言 AI 訂閲制將難以維持。其二,廠商可能針對指定測試訓練模型(所謂「Benchmaxxing」),分數提升未必等同實際工作能力改善;研究採用部分較難預先準備嘅測試減低影響,但無法完全排除呢項限制。

對用户而言,若便宜模型已足以應付日常任務,持續選用最新旗艦模型嘅理由會減少,惟介面熟悉程度、現有工作流程整合同服務穩定性,同樣影響轉換供應商嘅決定。價格急跌對前沿供應商構成壓力,佢哋難以單靠模型表現維持溢價,晶片及電力等投入成本又可能增加經營壓力;不過價格急跌未必使訂閲服務失去價值,卻會促使供應商更清楚展示高價方案帶來咩實際效益。就企業而言,成本下降可降低試用 AI 嘅門檻,讓中小企以較少預算測試客服、文件整理及內部知識搜尋等用途;不過採購不宜只按公開測試分數或單次提問價格,應先用自身任務比較不同模型嘅準確度、總使用成本及與現有系統嘅整合難度,喺合約同技術架構上保留更換供應商嘅彈性,處理客户或員工資料時亦一併評估資料保護及存取權限。

模姐驗嚇貨:18 個月跌 725 倍,最吸睛都最易被誤讀——佢衡量嘅係「達致某測試水平嘅最低成本」,唔係你帳單上面見到嘅數;Epoch 自己都冇話訂閲制撐唔到。對用家真正有用嘅啟示:同一樣嘢幾蚊就做到,你仲要為「最新」買幾多單?將自己嘅真實任務拎出嚟比準確度、總成本同整合難度,先係唯一唔會錯嘅做法。

模姐|深度調教