微軟（Microsoft）同Nvidia喺10月16日共同發布咗一份針對企業嘅開放權重（open-weight）AI模型風險管理指引，正式名稱為《Risk Management for Open-Weight Models in Enterprise》。呢份指引目前已經喺GitHub公開，並歡迎外界提出修改建議。
指引將相關風險歸納為五大類、共30種，涵蓋網絡安全（Cybersecurity）、資料保護（Data Protection）、內容風險（Content）、人與AI互動（Human-AI Interaction）以及偏見（Bias），並就風險評估、防護措施同持續監控作出管理建議。指引參考咗ISO/IEC 23894、ISO/IEC 42001、ISO/IEC 42005，以及美國NIST嘅AI風險管理框架，協助企業將相關風險管理納入現有制度。
值得留意嘅係，兩間公司清楚講明：模型權重係咪開放，並唔係判斷風險高低嘅唯一依據，企業仲要根據模型特性、實際用途、部署方式同已採取嘅防護措施去評估風險。舉例嚟講，開放權重模型未必附帶完整安全防護，企業自行部署時可能要自行建立身分驗證、存取控制同輸入輸出過濾；即使用託管服務，都要問清楚供應商提供咗邊啲防護、邊啲仲要自己負責。
指引仲點明幾個實際風險：用模型寫程式可能產生帶漏洞或惡意功能嘅代碼；用嚟做AI代理（agent，即能自主調用工具執行任務嘅AI系統）時要提防不當工具呼叫同權限過大；另外仲有訓練資料或個人資料外洩、模型被盜用、多租户環境資料隔離失效等。對模型做微調（fine-tuning，按特定需求再訓練）、量化（quantization，壓縮模型以節省資源）或合併後，就算模型照常運作，也應該重新測試，確認原有防護仍然有效。外部取得嘅模型，則應該透過數位簽章驗證來源同檔案完整性。
呢份指引目前聚焦模型層嘅風險管理，微軟同Nvidia表示後續會再出涵蓋模型執行環境、模型與外部工具整合，以及應用層面嘅管理建議。
模姐驗嚇貨：兩間公司聯手出指引，方向冇錯，但重點係「開放」從來唔等於「開源」（open source，即代碼、權重同訓練資料全面公開）。權重開放，條款、數據使用同企業條款係另計。呢份指引係給企業自保用，仲非對模型本身嘅技術評價，亦未構成對任何產品嘅獨立查證。
模姐｜深度調教
