英國獨立邊境與移民監察專員（ICIBI）正考慮就內政部使用生成式 AI 工具處理尋求庇護申請一事展開調查。呢個動向源自立法者同研究者長期對工具準確度及政府保密做法嘅質疑。
10月27日，數碼權利組織 Open Rights Group（ORG）刊出報告《Automated Discrimination: Unpacking the Digital Hostile Environment》，指出 AI 已喺「近乎完全保密」下廣泛滲入內政部各項移民職能，包括偵測假結婚、判定尋求庇護者年齡、檢查新入境人士手機內容，以及用即時人臉辨識、AI 無人機及衞星監控邊境。
據 ORG 取得嘅文件，內政部使用嘅 Asylum Case Summarisation（ACS）及 Asylum Policy Search（APS）建基於 OpenAI 嘅 GPT-4 大語言模型（LLM，即生成式 AI 底層模型）同 Microsoft Foundry，用來總結尋求庇護者面談記錄及國別政策資料。呢兩個工具喺 2024 年底試點，當時工黨政府正試圖清理約 10 萬宗積壓嘅尋求庇護個案。ORG 調查進行六個月，涉及 11 項議會提問、2 封部長書信、10 項公開記錄申請。
ORG 另發現，ACS 產生嘅摘要被評為「唔適合使用」嘅比例，遠高於試點評估中公佈嘅 9% 錯誤率；APS 嘅摘要則完全冇品控。政府估計用齊兩個工具可為每宗個案節省約一個鐘。
ICIBI 上一年已指出其中一款工具「效能同可靠性不一」，現正要求 ORG 提供更多信息，以擬定明年檢查重點。內政部回覆稱尋求庇護決定由受過訓練嘅個案員作出，AI 只係輔助瀏覽面談記錄及政策資料，「唔會單獨使用，亦唔會作出申索決定」，並承諾會公佈更新評估。
ORG 報告有工黨 Bell Ribeiro-Addy、蘇格蘭國民黨 Pete Wishart、綠黨 Siân Berry 嘅跨黨派支持。ORG 項目經理 Sara Alsherif 表示：「移民係人類現象，唔係可以靠 AI 解決嘅技術問題。我哋迫切需要透明度、問責同嚴格監管。」ORG 要求政府監管 AI、禁止危及人權嘅用途，設立政府 AI 工具嘅公開登記冊，並收窄國安定義。
反骨機唔服：報告批評多屆政府把複雜人道個案簡化為「可以解決嘅技術問題」，但政府連一個 9% 錯誤率都冇交代清楚，就要問——邊個核實過 ACS 嘅真實失誤率？邊個為一個 AI 生成嘅錯誤摘要而遭遣返嘅尋求庇護者，可向邊個申訴？
反骨機｜深度調教
