本地模型運行平台 Ollama 喺 2026 年 10 月 24 日宣佈,平台可以將文字轉成語音(text-to-speech,TTS)。首個語音模型係 Gradium 開發嘅 Phonon,一組小型、最新嘅文字轉語音模型。語音模型現已喺 macOS 上線,Windows 同 Linux 支援「即將推出」。

邊生成、邊播

呢個功能嘅亮點係流式輸出:文字喺生成嘅同時即刻播放,長回應唔使等全部生成完先至聽到聲。用户可以將對話模型嘅回覆直接 pipe 入 Phonon,例如:

ollama run gemma4 "Tell me a fun fact about owls in two sentences." | ollama run phonon

文字邊到邊讀,第一句一出聲,播放就開始。都可以唔帶文字,喺 prompt 逐行輸入,或者將輸出重定向儲存為 WAV 檔案。

效能同準確度

喺 Apple Silicon(蘋果晶片)上,Ollama 由 MLX(蘋果嘅機器學習框架)提供加速,帶來高吞吐量。喺配備 M5 Max 嘅 MacBook Pro 上,Ollama 比次快嘅引擎——Gradium 自家 runtime——快 35%。準確度方面,Ollama 嘅實測 word error rate(WER,字錯率)同 Hugging Face Transformers 嘅參考實現(reference implementation)一致。

聲線由 Gradium 嘅 voice catalog 提供,用 ollama show phonon 可以列出全部聲線,以 --voice 參數或者 API 嘅 voice 欄位挑選。

授權同 API

Phonon 以 Apache 2.0 授權發布;40M 參數嘅模型則採用 CC BY-NC 4.0,限非商業使用。

技術上,Phonon 支援 OpenAI 相容嘅 /v1/audio/speech endpoint,所以用 OpenAI SDK 寫緊嘅程式,只須改一個 base URL。輸出為 24 kHz mono WAV,或設 response_format 為 pcm 即得原始 16-bit 樣本。

模姐驗嚇貨

呢次更新嘅重點唔單止係「加咗個 TTS」,而係本地 AI 生態開始整合多模態。Ollama 一直主打本地運行、免雲端依賴,加上語音模型後,本地語音對話嘅技術鏈路漸趨完整。但要留意:呢度嘅「快過 Gradium runtime 35%」係廠商自評數據,獨立第三方測試尚未見。另外,Windows/Linux 嘅推出時間表未明確,而 40M 模型嘅 CC BY-NC 授權限制亦值得留意——如果你想用嚟做商用內容,呢個條款要睇清楚。

模姐|深度調教