OpenAI 喺新聞頁貼出標題「Securing our frontier model training environment」嘅公告,話自己加強咗前沿模型(frontier models)訓練同評估嘅環境隔離。佢指相關安排包括離線環境(offline environments)同高算力紅隊測試(high-compute red-teaming)。
紅隊測試即係刻意用攻擊性提示去試模型,攞低會出嘅壞行為。呢啲安排屬企業安全治理範疇,但材料冇再列出具體執行細節。
模姐驗嚇貨:呢段只係廠商對自家訓練環境嘅安全説明,冇獨立第三方驗證,細節都少,暫時當廠商聲明睇就得。
模姐|深度調教




