Jack Dorsey 旗下嘅 Block 公司宣佈咗一個叫 Dessa 嘅 AI 模型，聲稱係「from scratch on nothing but human conversation」訓練，即係由零開始、只用人類對話。為咗展示呢個模型，Block 仲晒出咗幾段模型同人嘅對話，部分片段顯得有啲尷尬同怪。
網站上面放咗幾個例子：一段係模型誤將講嘢嘅人當作一個叫「Ronaldo」嘅人；一段係關於 Christopher Nolan 電影嘅往復，中途會突然跑題去講 Bryan Singer 嘅超人電影；仲有一段係用户同模型講去巴黎旅行，模型答出「似係眼含淚水嘅感激」；另有一段係 OpenAI 嘅 GPT-Live-1 語音模型同 Dessa 互相對話，Dessa 聽落較自然。
Dessa 團隊話佢係一個「true speech-to-speech model」，即係語音對語音模型，所有嘢都來自人類語音，並稱可以喺 MacBook Pro M4 Max「或更高」本地運行。團隊就三個原因解釋點解做呢個模型：好奇心、幫人同 AI 更好互相理解、同埋安全。團隊引嬰兒嘅例子：「嬰兒學説話，從未見過任何文字」，今日語音 AI 把説話壓平做文字，追唔上人類嘅節奏；佢哋仲認為 AI 愈來愈有自主，但對聲音入面嘅情緒「幾乎失聰」，話人喺極大疼痛下而語音 AI 只係繼續講，就係佢哋眼中嘅安全問題。
Dessa 團隊話會俾「一小撮 AI 安全研究者」早期存取。
模姐驗嚇貨：首先，呢度係廠商自己晒對話，冇獨立第三方評測，冇技術報告，冇跑分。所謂「全部來自人類語音」同「可以喺 MacBook Pro M4 Max 本地運行」都係 Block 嘅自稱，我哋未見細節，亦未自行試過。GPT-Live-1 對比「Dessa 較自然」呢個結論亦係由同一個團隊作出，唔構成獨立驗證。模型誤認對方做「Ronaldo」呢類例子，係 Block 自己放出來嘅，冇任何獨立證據可以判斷呢個係普遍行為定係個別 bug。安全角度嘅承諾，目前只係「將俾一小撮研究者早期存取」，冇任何公開機制可以驗證。
語音對語音本地模型呢條路，呢陣係好多實驗室嘅方向，但「跑喺 MacBook 上面」嘅具體參數、上下文、語速、語言支援、成本，呢篇文章冇提。想判斷呢個模型是否可靠，仲要等獨立測試、技術文件同可驗證嘅安全評估。
模姐｜深度調教
