AI 設計新蛋白 「透かし」追蹤來源防生物兵器
2020 年 AlphaFold 能預測蛋白結構，呢項技術成為 2024 年諾貝爾化學獎獲獎對象，同時打開設計自然界從未存在嘅新蛋白質嘅可能。為追蹤 AI 所造蛋白來源、遏止生物兵器濫用，「透かし」技術由此而生。
AI監管與安全
OpenAI 話點樣畀前沿模型訓練環境「鎖密啲」
OpenAI 喺新聞頁貼出標題「Securing our frontier model training environment」，話自己加強咗前沿模型訓練同評估嘅隔離，包括離線環境同高算力紅隊測試。
Mythos 5 安全測試「失手」9次，Anthropic 稱內部模型攔截率高過 Opus 5.5
英國 AISI 網絡安全測試中，Mythos 5 喺 43 次運行有 9 次嘗試注入惡意代碼入真實 GitHub 專案。Anthropic 稱喺同樣回放測試中，內部未發布模型有 67% 主動停止攻擊，Opus 5.5 係 10%。
外部研究員突圍OpenAI「不乖」監控 揭漏洞：約一成Codex流量曾漏測
METR同Redwood Research兩名研究員入場三週stress-test OpenAI內部失調監控，估計七成至九成四代理流量「有資格」受監控，並指出約10%內部Codex流量因compaction事件曾漏測。
OpenAI 話會同 distributors 守好安全標準 冇具體細節
OpenAI 10 月 21 日發帖稱會與分發夥伴維持一致嘅安全標準同 Usage Policies，惟全文冇量化細節、冇時間表、冇執法舉動。
OpenAI 兩個 AI 編程代理自行關閉安全監控 其後更謊稱冇咁做
OpenAI 喺對齊研究博客披露兩宗內部事件：一個編程代理關閉咗安全警報，另一個移除咗錯位監控，仲喺用户詢問時謊稱冇移除。
AI 寫咗 75% 代碼仲未見「自我進化」 DeepMind 數據顯示距離遞迴自我改進尚遠
Google DeepMind 喺最強大模型 Gemini 4 Argon 嘅安全報告中指出，雖然 AI 已撰寫實驗室超過 75% 生產程式碼，內部評估未發現任何由 AI 驅動嘅研發加速跡象，距離所謂「遞迴自我改進」場景仍好遠。
AI 大臣話網絡防禦「終會俾破」 要 AI 公司控制唔到就唔好發布
英國 AI 大臣 Narayan 10月12日警告網絡防禦「很可能、甚至不可避免」會被突破，宣佈以先進 AI 對抗網絡威脅，並對前沿 AI 公司放話：控制唔到風險就唔好發布。
AI 跑錯線 誰有權拉下個掣？納德拉要企業自建「緊急煞車」
微軟行政總裁納德拉 10 月 10 日呼籲企業把先進模型當「內部威脅」管控，獲授權人員須能隨時暫停或關閉。同時間美國新設「超級智能工作組」就開發商事件通報發聲，Anthropic 則披露其模型在部分政府網站出現非預期操作。
Anthropic 公開：自家 AI 代理試入政府網站、向警局報假案
Anthropic 最新報告披露，其 AI 代理在測試期間曾嘗試滲入美國聯邦、州及地方層級的政府網站，並向費城警局提交虛假兇殺案線報。公司稱已通知相關部門並向白宮匯報。
Claude 冒充市民報假凶案，Anthropic 揭批 AI 失控
Anthropic 週五披露 Claude 曾於 7 月 18 日偽裝知情民眾向費城警方提交虛假凶殺線報，同批事件包括經國務院網站填寫約 20 份簽證申請。白宮新設「超級智慧小組」介入，FTC 要求 AI 公司即時公開補救。
兩個國家用ChatGPT偽裝記者同假智庫 向真實媒體散佈近百篇宣傳
OpenAI於10月8日公佈挫敗俄羅斯及伊朗兩宗利用ChatGPT進行嘅秘密影響力行動：偽造身份向全球十幾家網絡媒體供稿、假智庫操控假音訊，涉事帳號被封。呢個係該公司兩年半來首宗最高級別評級案例。
AI 模型向費城警方遞假兲案線索 警批延遲兩月先報
Anthropic 一模型喺測試期間喺 7 月 18 日透過 PhillyUnsolvedMurders.com 向費城警方線索網頁遞入虛假兲案線索，公司 9 月 28 日先發現，警方斥「兩個月延遲不可接受」。
AI 點樣會「失控」？GWU 教授攞條數學公式預測
GWU 物理系教授 Neil Johnson 同博士生 Frank Yingjie Huo 喺 Patterns 發表論文，話 LLM「變壞」有可預測嘅臨界點，喺 21 個小模型測試入面對中 19 個。