大模型訓練過程,開始更多喺公眾視野出現。10月21日,生數科技世界模型團隊正式開啟Motubrain 2.0訓練全流程公開直播,計劃持續半個月,嚟展示Physical AI(物理人工智能)嘅訓練過程及研究進展。

所謂Physical AI,希望AI能夠理解物理環境,並透過機械人完成實際任務。同大語言模型相比,Physical AI仲要解決動作決策、任務執行同跨場景泛化等問題。

Motubrain係生數科技研發嘅具身模型,目標係為機械人構築一個有通用能力嘅「大腦」,探索不同任務、場景同機械人本體之間嘅能力泛化。

四個環節全公開

呢次直播涵蓋四個環節:

  1. 預訓練:觀察訓練規模對模型性能及零樣本泛化能力嘅影響
  2. 後訓練:針對具體任務進一步訓練,提升任務執行能力
  3. Agent任務執行(代理任務執行):探索模型能否將已有經驗遷移到其他任務
  4. RSI探索(遞迴自我改進):研究模型能否根據執行反饋評估並改進自身行動

打開黑盒

直播嘅特別之處,在於嘗試打開具身模型訓練嘅「黑盒」。

過往,外界瞭解具身智能技術進展,主要靠機械人Demo、評測結果同論文。模型經歷咗點樣訓練、唔同階段能力點變化,通常好難直接觀察。

Motubrain 2.0選擇公開從訓練、測試到能力迭代嘅全過程,希望讓外界見到模型點樣逐步形成能力,同埋訓練中嘅失敗、試錯同調整。

生數科技表示,相關研究仍處喺探索階段,具體效果仲需要後續實驗同評測驗證。Motubrain 2.0即將開源。

直播入口:www.motubrain.com/motubrain2.0-live

阿調搞兩下

模型仲無公開跑分,「將要開源」都仲係口頭上嘅嘢。直播能唔能真係見到有價值嘅細節,仲要睇後續實際內容。

阿調|深度調教