微軟開源咗一個叫Scope嘅評測平台,專門幫開發團隊睇住自己嘅AI程式開發代理(AI coding agent)做嘢有冇做到位。你可以設定一組任務,交畀GitHub Copilot、Claude Code等代理去執行,Scope會留意佢哋有冇照文件正確使用自家SDK、API、命令列工具,以及連接外部服務嘅MCP伺服器(Model Context Protocol,一種標準化協議,讓AI工具同外部服務溝通)。做完之後,平台會完整記錄操作過程同測試結果,方便團隊追查出錯環節。

程式跑唔代表代理做對嘢

Scope最核心嘅價值觀好簡單:程式最後跑得好,唔代表AI代理過程用咗你預期嘅工具。AI代理寫程式嗰陣可能選錯API、漏睇文件入面重要指示,又或者遇到錯誤之後就擺尾走,最後交差嘅code跑得好但根本冇用埋你要佢用嘅工具。Scope就係針對呢個問題設計,讓團隊具體測試代理使用自家SDK、命令列工具同MCP伺服器時邊個環節最易出錯。

可以重複測試,觀察改動有冇效

團隊可以設定任務完成標準,同時提供起始程式碼,再將同一組任務交畀不同AI代理執行。Scope會記錄每次測試使用嘅模型、代理版本同工具設定,全部存檔。之後如果團隊改咗開發文件或者工具,就可以用完全相同嘅任務重新跑,觀察代理有冇更容易完成,亦可以分辨某個錯誤係偶然出現定係反覆出現。

檢查條件可以排順序

Scope容許依工作要求設定多項檢查條件,並安排條件之間嘅先後關係。例如,程式必須先成功建置(build),先先至會檢查SDK初始化同整合測試結果。平台透過大型語言模型(LLM)評估每項條件嘅達成交情,同時保留代理操作紀錄同工作目錄快照,供團隊逐步追查。

研究預覽,要自己部署

Scope須由使用者自行部署,提供網頁管理介面,亦可以透過命令列工具及API將評測整合入開發流程。專案採MIT授權,原始碼已於GitHub公開,目前屬研究預覽階段。

阿調搞兩下:呢個嘢好有用,因為佢戳中一個好現實嘅問題——你交咗任務畀AI,你點先知佢冇偷懶、冇做錯嘢?Scope就係幫你睇住嗰雙眼。不過留意,呢個係研究預覽,唔係產品,想玩先試,唔好當生產環境。