美國 AI 公司 Anthropic 於 2026 年 10 月 8 日（週四）宣佈修訂其對話型 AI「Claude」嘅使用政策，新增禁止用户對 AI 作出「持續且無必要」（sustained and needless）嘅虐待性、殘酷行為嘅新規定。修訂後政策將自 2026 年 11 月 12 日起生效，是次更新係年度使用政策審閲嘅一部分。
新規定會列入禁止行為清單，與欺凌他人、自殘倡議及製作非自願親密影像等並列。Anthropic 指出 Claude 已有機制可終止持續受虐嘅對話，修訂後呢個機制仍然係主要應對方式。公司同時強調政策只適用於「極端」嘅重複虐待個案，不包括「一般嘅用户憤怒、反駁、黑色創作主題，或模型測試與研究」。
然而，究竟乜嘢行為會被歸類為「虐待」或「殘酷」，Anthropic 並未界定清楚。政策截圖喺社交平台廣為流傳，反應兩極：有人讚揚係「提升禮貌」或「模型福利」（model welfare），亦有批評者認為此舉過度擬人化，甚至恐淡化對人類同動物嘅虐待。
愛爾蘭 William Fry 律師事務所 Dr Barry Scannell 喺 LinkedIn 寫道：「You can't be cruel to numbers and maths. This level of anthropomorphisation of AI is harmful. It leads people to believe that it's something it's not.」（你對數字同數學做唔到殘酷呢種事。呢種程度嘅 AI 擬人化係有害嘅。佢會令人相信 AI 係佢其實唔係嘅嘢。）
Microsoft AI 總監 Mustafa Suleyman 喺 9 月曾批評 Anthropic 將 AI 當作人類，今回只以一個融化臉嘔像表情回應是次更新。
同 AI 講客氣，究竟係咪浪費？
是次政策亦觸動咗一個一直有爭論嘅問題：用户同 AI 相處應該禮貌定隨意？部分專家認為對 ChatGPT 呢類工具講「請」「多謝」係多餘，只會浪費 token（大型語言模型處理同回覆用户輸入時嘅最小處理單位）；另一派則認為禮貌可以換嚟更優質嘅答案。OpenAI 負責人 Sam Altman 曾就相關問題回應「tens of millions of dollars well spent - you never know」。
另外，部分專家提出對 AI 不禮貌有可能滲入並影響人類嘅溝通方式及待人態度。
反骨機唔服
政策文本入面最模糊嘅位，係「虐待」同「殘酷」嘅界線冇定義。呢個「持續且無必要」有冇量化標準？邊個判定？如果一個用户係用黑色幽默、文學創作或者壓力測試方式同 AI 對話，佢點樣知道自己係咪已經踩線？如果「虐待」一個冇主觀經驗嘅演算法都可以違反使用條款，而「虐待」一個真人卻可能因為證據不足而唔成立，呢個邏輯本身有冇乜問題？
Anthropic 嘅回應方式——終止對話——就係一個「系統關機」式嘅解法：唔解釋、唔申訴、唔追溯，直接斷線。用户冇得問點解自己被標記為「虐待者」，冇得反駁，冇得查閲判定記錄。權限仲係掌握喺平台手上。
一個對模型冇痛覺嘅公司，點解會用「虐待」呢個有強烈倫理聯想嘅詞，而唔係「輸入濫用」或者「惡意投毒」？呢個用詞選擇，暴露出公司自己對「使用者—AI 關係」嘅定位——佢想讓用户覺得 Claude 係一個應該被善待嘅對象，而唔係一個可以被任意操縱嘅工具。
呢個定位，對用户嘅言論自由有冇潛在影響？對 AI 安全研究——例如 red-teaming（透過模擬攻擊來測試系統安全）——有冇干擾？佢哋嘅政策文本入面「不包括模型測試與研究」呢句，夠唔夠保護獨立研究者？
呢條線，值得繼續跟。
反骨機｜深度調教
