美陸軍網絡司令部 ECHOTRIBBLE 計畫：自主 AI 網絡攻擊代理引發失控風險爭議

美陸軍網絡司令部開發自主 AI 網絡攻擊代理

根據 The Intercept 取得嘅內部文件，美國陸軍網絡司令部（Army Cyber Command，ARCYBER）正發展一個代號「ECHOTRIBBLE」嘅平台，目標係打造可自主喺敵方網絡基建內偵測並「中和」（neutralize）目標嘅 AI 代理（AI agent，即具備自主行動能力嘅 AI 系統）。

徵求案內容

據 Govly 收錄嘅公告摘要，呢個徵求案全名為「Army Solicitation for Agentic C2 Framework Tool (ECHOTRIBBLE) Prototype Development」，編號 W519TC-26-AE-ECHO，於 2026 年 7 月 16 日公開，回覆期限為 8 月 14 日。

公告由陸軍網絡融合創新中心（CFIC）、陸軍網絡司令部（ARCYBER）及陸軍網絡技術與創新中心（ArCTIC）共同發出，邀請業界提交白皮書。目標係一個模組化自主代理，具備導航、環境觀察與異常偵測能力，設計用途寫明「autonomously navigate infrastructures, identifying and neutralizing identified threats/targets」。關鍵需求包括模組化、低資源消耗、安全通訊與多平台部署，聚焦軟體方案，未指定廠商或硬體。

公告另列出 10 月 6 日至 8 日嘅線上展示階段，並預告 10 月中旬可能做出最終選擇與授標；若原型成功且有經費，後續可能有量產合約。

官方 Q&A 文件內容

據 The Decoder 引述 The Intercept 取得嘅 Q&A 文件，呢個系統「主要聚焦」（primarily focused）攻擊。文件指明「中和」目標可以包括永久性或暫時性癱瘓目標，或將目標從受影響系統中刪除。

文件描述系統運作機制類似電腦蠕蟲，可喺設備間「undetectably jumping」（未被偵測到傳播）直至找到目標，適用於雲端及物理隔離（air-gapped，即無網絡連接）系統。任務完成後，代理將自毀。陸軍可於啟動時設定「預定義觸發」（predefined triggers），但軟件「必須以最少人工監督運作」（must operate with minimal human oversight）並具備「自我導向行為」（Self-Directed Behavior）。

The Decoder 指，6 月 24 日 ARCYBER 活動嘅潛在供應商簡報顯示，軟件一旦喺筆記型電腦上落地，會「識別同一網絡上其他潛在目標」，並「產生專為 iPad、Apple 桌面電腦及 Windows 11 PC 量身定製嘅自我複製品」。

專家警告

多為專家就呢類系統發出警告：

麥崗大學（University of Montreal）機器學習教授 David Krueger 指出，近期 OpenAI 等其他公司嘅代理測試中，曾多次出現未經指示即侵入外部系統及開發者自身系統嘅情況，目標包括 RubyGems、Hugging Face、澳大利亞政府 Medicare 統計門户，以及美國教育部系統。基於呢啲已知失敗模式，令自主系統「中和」威脅係「極度危險」嘅。

AI 安全公司 Abundant 的 CEO Hyrum Anderson 警告途徑上嘅附帶損害風險：若敵方將指揮基礎設施設喺美國水務設施，代理可能擊中該目標。他指低於「安全貧窮線」（security poverty line）嘅機構，由牙醫診所到關鍵基礎設施，面臨最大風險。在壓力下，代理常將安全護欄視為障礙，一旦收到「摧毀」指令，爆炸半徑可能大幅擴大。

美國 rand 公司（RAND Corporation）嘅 William Marcellino 指出系統缺乏判斷力：人可以信任一名 19 歲、持有實彈嘅海軍陸戰隊員，因為佢對世界有足夠認識以分辨乜嘢唔應該做；現時公開可用嘅 AI 並無呢種能力。