Hugging Face 今週上線名為 ML-intern 嘅 AI 代理(AI agent,即能自主執行多步驟任務嘅 AI 系統)。用户喺 HuggingChat 入面寫一段提示詞,佢會自動計劃工作流程、徵求預算、執行訓練、跑評估,再將模型發布到 Hub。官方一篇個人化試用貼文指出,一名用户喺數日內用呢個代理造咗七個模型。

貼文最吸引注意嘅係一個「prompt rewriter」模型。作者原本想要 Qwen-Image 2.1 自帶嘅 9B(十億參數)重寫引擎嘅縮小版,原模型要約 20GB 記憶體,且每個段落要「思考」幾千個 token。佢將需求講畀 ML-intern,次日就拿到一個 0.8B 版本,可以喺 CPU 上運行,有效輸出率 99.7%,token 用量只係原模型約四分之一。個項目算力開支 16 美元,包括用 9B 模型標註 8,797 條範例請求。

作者披露咗佢嘅提示詞結構。第一段係一句講明概念同動機,然後點明數據集、基底模型同訓練腳本。已核實嘅事實會寫喺一個名為「Verified facts, do not re-derive」嘅章節,免得代理重複驗證已知資訊,浪費預算。

有兩條指令被作者強調為關鍵。第一條要求任何訓練前先跑零樣本基準(zero-shot,即模型未經特定訓練直接喺測試集上嘅分數),例如柑橘模型嘅提示詞寫明「同時報告基底模型喺同一指標上嘅零樣本分數,俾我哋見到提升幅度」。冇呢一歩,你只係得到一個訓練完嘅模型,但完全唔知道佢有冇比原本勁。第二條係冒煙測試(smoke test,即正式跑貨前嘅快速小規模檢查):先跑 50 步訓練,確認權重真正有變,先至畀錢跑完整訓練。

ML-intern 每項任務由零美元預算開始,執行付費工作前必須徵求用户許可。若用户未設預算,代理會視乎項目規模提供選項,由用户揀。

作者同時將七份提示詞全文公開喺 GitHub(yvrjsharma/ml-intern-prompts),由第一個約 450 字嘅柑橘模型,到第六個接近 2,000 字嘅項目。佢話每次教訓都反映喺下一個項目嘅提示詞入面。柑橘模型嘅準確度,據佢稱,超過 Qwen3.5-2B 模型三倍。

呢個代理目前只運行喺 Hugging Face 自身硬件上。本地部署、權重開放程度、授權條款,材料均未提及。

模姐驗嚇貨:數日內七個模型,單一個項目算力開支 16 美元,呢個成本結構如果穩定,對資源有限嘅研究團隊同獨立開發者係真正有實惠嘅。但所有效能數字——99.7% 有效輸出率、token 壓縮比、準確度提升——全部出自作者本人自報,目前冇獨立第三方驗證。呢啲數字要等第三方可重現測試先至有份量。開源 Hub 上模型嘅授權條款,亦唔該喺前落檢查清楚。

模姐|深度調教