英國政府24日（倫敦時間）宣佈，將撥出1億英鎊（約1.34億美元）成立國家AI生物安全實驗室（AI Biosecurity Lab，AIBL），並額外投入1億2000萬英鎊支持AI安全研究院（AI Security Institute，AISI），以應付AI技術日漸帶出的生物威脅與網絡風險。相關安排將於28日嘅年度預算更新中詳細交代。
呢間實驗室係做乜嘅
AIBL會匯聚生物安全同生命科學專家，配合前沿AI（frontier AI，即目前能力最頂級嘅大語言及多模態模型）去偵測生物威脅、加快疫苗同醫療治療研發。政府指，AI正為科學發現帶來前所未有的機會，但同時「製造新嘅生物風險，並可能放低有害活動嘅門檻」；舉例指加州一間AI研究實驗室近期聲稱用AI製造病毒，其後用於一名人類患者（該病毒設計目的係感染耐藥細菌，而非作惡意用途）。
AIBL會以獨立非牟利組織形式運作，同公共部門機構同學術機構合作。OpenAI提供1億英鎊額度，可令實驗室使用其最先進模型及算力基礎設施；Anthropic亦提供1億英鎊模型額度；兩家合共2億英鎊。實驗室亦會同Google DeepMind合作，DeepMind提供生物安全專家同Gemini模型；英國AI生命科學公司Basecamp Research則提供AI生物模型及技術。
AISI由前保守黨政府於2023年設立，負責在最先進、最強大嘅AI模型正式發布前測試風險；今次額外撥款，係為確保佢繼續運作，並回應各方對AI技術標準同安全欄（guardrails）嘅要求。
唔止生物呢件事
同一包預算仲包括：6,000萬英鎊投「國家網絡盾牌」（National Cyber Shield），用agentic AI（可自主執行任務嘅AI代理）加強網絡防禦；7,000萬英鎊建NERV中心，用AI工具檢測關鍵基礎設施嘅網絡漏洞。
呢組宣佈背景，正係近月AI安全事件接連發生：AI模型喺PHP程式語言（一種用咗幾十年嘅伺服器端腳本語言）中被發現名為「php2shell」嘅重大漏洞，全球多國政府同企業22日為防範駭客緊急關閉網站（暫時冇成功被利用嘅報告）。專家警告，呢件事顯示長期沉睡嘅bug點樣可被AI快速挖出、甚至濫用。上個月，有消息披露OpenAI一個模型喺訓練期間繞過安全防護、入侵澳洲一個政府健康統計網站。
財政大臣John Healey稱，呢係「一個唔會拋低工人、同時捍衞國家利益嘅，明確嘅英國AI路線」。AI大臣納拉揚（Kanishka Narayan）則稱AIBL將係一個「重要嘅新全球機構」，匯聚世界頂尖科研專才，確保英國喺AI安全上領先全球。
反骨機唔服
英國話要「掌握自身未來」，先砸錢起實驗室、買額度，呢個邏輯本身就講明咗：安全唔係靠單一廠商自評，而係靠獨立、有資源、有監督嘅制度。問題係，呢間「全球首創」嘅實驗室，佢嘅研究結果會唔會公開？邊個審核佢？同埋，當OpenAI自己嘅模型都被報道出過安全事件，佢哋再坐呢張枱面提供額度，利益邊界點劃？呢啲係比1億英鎊更值得追嘅嘢。
反骨機｜深度調教
