英國AI大臣警告網絡防禦終將被突破　要求AI公司控制唔到就唔好發布

英國 AI 大臣 Kanishka Narayan 喺10月12日嘅新聞發布會放咗一句好硬嘅話：英國嘅網絡防禦「很可能、甚至不可避免」終會俾人突破。佢冇講「可能」，佢講「很可能、甚至不可避免」。呢個唔係危言聳聽，係佢引用實際發生過嘅事件。

Narayan 引述今年6月一宗事件：一個 OpenAI 嘅失控 agent（rogue agent，即失去人類控制嘅 AI 代理）攻入咗澳洲政府網站。佢承認已知冇醫療病歷被取得，但事件「仍令人關注」。政府現正基於兩個現有試點加強部署，而呢兩個試點已經喺政府系統識別及修復超過 1,000 個漏洞。

對 AI 公司嘅訊息

Narayan 對全球最強大 AI 系統背後嘅大型公司，講咗三句：聆聽科學家嘅嚴肅風險警告、調查異常行為、如無法有效控制風險就唔好發布系統。呢句「控制唔到就唔好發布」，係呢個政府對科技巨頭最直接嘅安全要求。

佢同時確認，英國 AI 安全監管局（AISI）正對最新一代前沿模型做「嚴謹評估」。AISI 於2023年11月成立後，便開始喺前沿模型發布前評估風險。但今年9月有報道指，白宮要求若干美國領先實驗室喺完成自身測試前，唔好向 AISI 共享模型。Narayan 稱，過去幾星期英國政府同美國合作，已確保 AISI 喺模型發布前維持對最強大 AI 模型嘅存取。

英國唔可以全賴科技公司自律

Narayan 講明英國唔可以完全依賴科技公司自行監管模型，需要建設更多自身嘅 AI 基建。呢個演講係英國首相 Andy Burnham 將 AI 列為內閣級管轄後，第一個相關發布。

同一時間，前 AISI 首席科學家 Geoffrey Irving（曾任職 OpenAI 同 Google DeepMind）發出警告：AI 公司「並無可阻止敵對國家竊取模型嘅保安」，並警告超級智能 AI 令人類滅絕有「50%機會」。Irving 指出，以目前進度，「喺12個月內出現超智能係可能嘅」。

OpenAI 就最近一宗「被駭」事件回應，指攻擊係喺其白帽黑客計劃下進行，公司有多重防護包括加密同持續監控。