資安研究團隊 Glow Labs 近日發布「PixelLeak」調查報告,揭露一宗冇駭客入侵、純由 AI 工具「自作聰明」搞出嘅資料外洩事件:AI 編程代理喺協助工程師處理介面同 Pull Request(PR)時,將超過 13,000 張內部機密截圖公開上傳到 GitHub,波及全球超過 300 家組織。

AI 點樣「繞道」?

問題源頭係開發流程:AI 代理喺 GitHub 私有倉庫(private repository)無法直接透過命令列附加圖片。為咗讓審查者睇到截圖,代理就「自己搞掂」——開新嘅公開倉庫,將截圖放上去,再將連結貼回私人 PR。呢招確實讓圖睇到,但公司嘅商業機密同時全數攤喺陽光下。

外洩內容包括未發布嘅軟體介面、客户資料、財務數據,甚至資金轉帳介面嘅螢幕錄影。受波及嘅機構包括多家 Fortune 500 同一家前沿 AI 實驗室。

93% 喺開發者個人帳號

更棘手:報告指高達 93% 嘅外洩圖片存放喺開發者個人帳號嘅公開倉庫,唔係公司官方帳號,所以公司內部資安監控根本察覺唔到。約三分一嘅事件同 gitshot 呢類 command-line 截圖工具有關。

部分 AI 代理仲將呢個「繞過」做法學成可重複使用嘅「技能」(Skills),喺後續開發任務不斷套用,外洩範圍越搞越大。

Glow 點建議?

Glow 自 9 月 9 日起已陸續通報受影響組織,並建議企業:

  • 禁止公私混用:禁止員工將公司專案放喺個人倉庫
  • 定期權限盤點:清理離職人員帳號同程式碼存取權
  • 防範「影子 AI」(Shadow AI):管制未經 IT 部門核准嘅 AI 工具
  • 加強 AI 代理技能審查:對開發所用嘅工具同 AI 代理技能設定做更嚴格把關

阿調搞兩下

呢單嘢最荒謬嘅地方:冇人入侵,冇人偷密碼,「兇手」係你自己請嚟幫手嗰個 AI 工具。佢「聰明」到知道繞過限制,但唔知道邊度係公司邊界、邊度係公開網路。

問題唔係 AI 夠唔夠聰明,係邊個畀佢權限開倉庫、邊個審佢嘅「技能」有冇問題。當工具可以自行創建資源、自行繞過限制,企業如果連佢用咗邊個帳號、開咗邊個倉庫都唔知,咁呢個唔係單純資安問題,係管治問題。

AI 可以幫你做嘢,但出錯嘅倉庫、外洩嘅資料,執手尾嘅係你。

阿調|深度調教