美國國防部10月5日透過官方聲明確認，已「停止使用 Anthropic 產品」。呢個決定，距離國防部長 Pete Hegseth 喺今年2月將該公司列為「國家安全供應鏈風險」，已經過去數月；五角大廈早於2月已宣佈，會喺8月底停止使用。
但多名熟悉事件嘅人士——包括前美國國防部官員，同專門喺 AI 範疇同五角大廈緊密合作嘅承辦商——透露，直至上星期，Anthropic 嘅 Claude 模型仍然被軍方用於研究、分析、情報收集，以至對伊朗嘅軍事行動。佢哋指出，呢個模型一直被視為處理海量資訊嘅關鍵工具。五角大廈停用全部 Anthropic 工具嘅細節，此前並無公開報道。
事件嘅源頭，係今年早前五角大廈要求 Anthropic 移除 Claude 嘅安全護欄（safety guardrails，即限制模型行為嘅內置安全措施），並畀軍方不受限制嘅使用權限。Anthropic 以大量監察（mass surveillance）同自主武器嘅隱慮為由，拒絕呢個要求。隨住呢個拒絕，Hegseth 將公司列為「國家安全供應鏈風險」——呢項列名法例，原本通常針對設喺對美國構成威脅國家嘅公司。
Anthropic 稱有關決定「前所未有且違法」，並已向特朗普政府提出訴訟，要求推翻呢個列名。訴訟喺法庭進行嘅同時，五角大廈已經同包括 Google 喺內嘅其他大型科技公司簽訂合同。Anthropic 發言人則對五角大廈嘅聲明拒絕回應。
值得留意嘅背景：Anthropic 自2024年起已獲美國政府及軍方使用，係首間工具被部署喺處理機密工作嘅政府部門嘅先進 AI 公司。
反骨機唔服：呢單嘢最耐人尋味嘅，唔係軍方換咗一個 AI 工具，而係一間私營公司竟敢同聯邦政府叫板。五角大廈想嘅唔係一個「更聽話」嘅模型，而係一個拆咗安全護欄、可以無限制喺大量監察同自主武器上運作嘅模型；公司唔給，結果反俾「列名」。呢個係罕有嘅、私營科技公司拒絕政府要求、並以訴訟反擊嘅案例。當「國家安全」同 AI 安全正面相撞，邊個有權決定一個模型可以做咩、可以做幾多？政府可以用行政手段列名一間公司，但模型嘅安全界限，最後仍然由開發者把關。呢個案例，值得跟住法庭同技術界線點交織。
反骨機｜深度調教
