Whittaker：AI真正威脅唔係鬼故事，係草率使用

「真正嘅風險好真實，但唔係嗰班癲佬講緊嘅鬼故事。」Signal Foundation負責人Meredith Whittaker喺最近一次專訪中出咗呢句。佢話AI搞到人類滅亡嘅憂慮「冇科學根據」，真正令人擔心嘅，係技術被草率使用。

佢舉咗個例子：據報導，美國情報部門使用嘅chatbot（聊天機器人）捏造咗一架中國核武貨船嘅虛假情報，促成美國準備軍事回應。「我哋差啋同中國開戰。」Whittaker話，「一個會產出錯誤情報、差點令同中國開戰嘅系統，冇任何標準下可以叫超智能。」

由Project Maven到伊朗學校

Whittaker嘅批評唔係憑空而來。佢2006年讀文學入Google，冇電腦科學學位。2017年底，有同事同佢講Project Maven——Google與美國國防部之間嘅秘密合約，為無人機瞄準開發AI。佢理解「壓縮殺傷鏈」（compress the kill chain）嘅含義：縮短機械識別目標到人決定開火之間嘅時間，減少審議環節。佢同成千名同事一起反對。

「呢樣嘢會洗白壞情報、壞數據。」佢公開爭辯。翌年佢參與組織咗約20,000名員工嘅罷工行動，要求Google處理多個問題，包括佢哋認為倉促推嚟嘅新技術。Google後來放棄呢份合約，Palantir接手。

而Whittaker話，今年美國對伊朗Minab學校嘅導彈攻擊，正正依賴同一套系統同過時情報，將學校識別為軍事目標。

「呢就係我哋2017年講緊嘅嘢，原原本本。」

Palantir回應稱「冇證據顯示Palantir嘅軟件係呢宗可怕悲劇嘅原因」，並補充「Palantir唔為底層數據或情報缺陷負責」。公司英歐區負責人Louis Mosley今年早前稱：「系統入面永遠有人，最終決定永遠由人作出。」美軍至今未公佈Minab事件嘅調查結果；美國國防部長Pete Hegseth話美軍「絕不將平民目標列為攻擊對象」。

多國政府嘅監控要求

多國政府，包括英國政府，主張對通訊平台上有更大訪問權限，理由係保護婦女同兒童。前英國首相Keir Starmer喺2026年London Tech Week話，科技公司將被期望在兒童設備上偵測同阻截裸照。Signal嘅技術設計會隱藏訊息發送者嘅身分（由其伺服器），限制外部觀察者或駭客可以取得嘅數據。