AI 公司成日話模型要越大越勁，但越大就越大食算力。有一班人行返反方向，做細到可以喺手機、部電腦入面跑得落嘅模型。美國一間叫 Underdog 嘅初創公司，就係其中一個。
佢哋放咗支叫 Woof 嘅語音生成模型，檔案淨淨 32MB，參數量 3100 萬。公司話，呢支模型喺大部分裝置上面運行唔需要聯網，任何人下載得。
演示係一隻喺瀏覽器入面運行嘅小遊戲，畫面係間復古科技風嘅房，有打字機、老式陰極射線管（CRT）顯示屏，同埋一支枱燈。開場片有句警告，話呢個鎮有「入侵性」嘅雲端供應商——明面就係同雲端模型鬧下。你可以喺打字機上面用鍵盤打嘢，遊戲會將你打嘅嘢讀返嚟；轉個旋鈕，就出唔同類型嘅音樂。全部喺瀏覽器完成，離線運行。
呢支模型細到唔夠同大型模型比，但技術分析認為，佢可以夠得做本地助理，或者幫你做個人化播客。
其實呢唔係 Underdog 第一次做細模型。幾星期前，佢哋已經放咗 Bark，一支 167MB 嘅語音轉文字（speech-to-text）模型，同樣為邊緣裝置設計，俾人做轉錄同聽寫用。再計就仲有一支 270 億參數嘅模型，可以喺筆電上面運行，公司仲有款排緊隊嘅應用，定位係本地主機（local hosting）嘅 Muse 同 Instinct 替代品。
佢哋嘅創辦人 Sigil Wen 話，起先唔想再用 Granola 呢類雲端筆記工具，想自己建支可以喺用户裝置上面運行、俾用户自己掌管資料嘅系統。佢話相信未來幾個月內，多數當代最具能力嘅模型都可以喺你手入面嘅裝置上面運行，目標就係訓練支最勁嘅開放、能力強、美國製造嘅模型，俾人可以擁有自己嘅私人 AI。
阿調搞兩下
32MB。呢個數，講真，係一隻大狗嗰重量都未夠。但 Underdog 要做嘅嘢，唔係跑贏誰，係問返一個好基本嘅問題：我哋嘅 AI，究竟要唔要一直要上雲先可以行？你部機夠唔夠得，可以自己幫你講嘢、聽你講嘢？呢個問題，幾時有答案，你就唔使再問「我嘅數據喺邊」。
阿調｜深度調教
