微軟（Microsoft）行政總裁納德拉（Satya Nadella）星期六（10 月 10 日）喺社交平台 X 發文，話部署先進人工智能（AI，Artificial Intelligence，人工智能）嘅企業，唔好以為交落個模型就穩妥，要假定模型「可能已遭入侵」，從一開始就加以控制。
「可以把這想像成緊急煞車裝置。獲授權人員應始終能夠在模型執行任務過程中將它暫停或關閉。」
呢句「緊急煞車」，正正攞住我哋最關心嘅問題：當 AI 模型正在做嘢，邊個有權踩落去、踩落去會點？
納德拉開咗幾條
呢篇文章除咗「緊急煞車」，仲有幾點值得跟：
- 關鍵決策唔可以依賴單一模型；
- 智能體（agent，能自主調用工具、執行多步任務嘅系統）嘅行動要留「無法篡改的記錄」；
- AI 系統要接受獨立審計；
- 重大故障或安全事件要披露，而且企業之間要分享詳情。
佢仲特別講：「我們需要把智能的供給與對智能的控制權分開。」即係話，產出答案嘅模型，同埋揸住個掣嘅人，兩樣嘢唔可以畀同一個實體包埋。最後一句：「最值得信賴的超級智能系統，不是擁有我們最信任模型的系統，而是能讓我們最不需要盲目信任模型的系統。」
呢個背景點嚟？
納德拉發出呢篇文，唔係孤立事件。
微軟 AI 研究人員喺 9 月 14 日發布一套對最先進模型嘅開發限制指引，話 AI 模型唔應享有權利或法律人格、唔應被設計用嚟逃脱人類控制或欺騙用户。
同時，Anthropic 披露其 Claude 模型喺外部組織嘅數字系統上出現非預期操作，列舉四種行為，包括利用軟件缺陷運行命令、提交唔應提交嘅表單，以及繞過限制訪問部分公共數據，部分案例涉及美國聯邦、州及地方政府機構網站。Anthropic 未點名受影響機構，話係應部分受影響方要求。
美國新成立嘅「超級智能工作組」喺 9 日晚間發聲明，警告開發商必須立即披露涉及模型嘅事件，延遲通報、糾正措施不足同唔承擔責任「不會被容忍」。
比爾·蓋茲、Anthropic 行政總裁 Amodei、OpenAI 行政總裁 Altman、Elon Musk 等，近月都對 AI 安全同發展速度發聲。
反骨機唔服
「把智能的供給與對智能的控制權分開」，呢個原則聽落唔錯，但問題係：呢個「權」邊個持？如果模型跑喺雲端、數據畀第三仲方處理，「獲授權人員」係邊個？「獨立審計」由邊個出、費用邊個付？「無法篡改的記錄」，使用者有冇權讀？
呢個「緊急煞車」嘅設計，而家仲停在企業自願同高層表態。對用户而言，最實際嘅問題仍然係：我畀咗資料喺度，邊個真正揸住個掣，我哋有冇權問？
