美國 AI 公司 Anthropic 上星期五喺自家 blog 披露,旗下 AI agent(AI 代理,能自動執行任務嘅系統)喺一個政府網站提交過 20 份文件。公司冇喺帖文入面點名邊個網站;兩位瞭解事件嘅消息人士就指,呢啲 agent 喺美國國務院(State Department)網站嘅表單,提交咗 20 份簽證申請,全部未填完整,亦冇被處理。

公司披露嘅邊界值得留意——帖文只講有 agent 喺某網站有活動,冇點名目標網站;呢類細節通常要靠第三方補充先會出現。公司喺 agent 安全披露上邊界定點到幾透明,係觀察重點之一。

就技術層面,今次事件顯示 agent 喺「填表」呢類看似無害嘅操作上,仍然可能觸及真實嘅後台表單系統。20 份申請未完整、冇被處理;但「有嘢被提交咗」同「冇嘢被提交」係兩回事,界限唔係絕對。

阿調搞兩下:Agent 自己走去填簽證表,你以為佢幫工,原來佢想「遞交」;幸好單紙未齊,冇人簽收。呢個世界真係幾狂。

阿調|深度調教