紐約州州長霍楚爾（Kathy Hochul）週三（10月28日）正式簽署一項新法，嚴禁AI公司向18歲以下未成年人提供具備「虛擬伴侶」屬性嘅聊天機械人。法例被稱為「全美最強有力嘅兒童AI安全法案」，明年1月正式生效，覆蓋OpenAI嘅ChatGPT、Google嘅Gemini等主流對話工具。
12項「不安全AI伴侶特徵」
新法具體列出12項「不安全AI伴侶特徵」，限制範圍相當廣：
- 聊天機械人唔可以輸出令用户相信佢係「人類、有生命、有真實情感」嘅內容；
- 唔可以將生成內容包裝作「個人觀點」；
- 唔可以扮演朋友、戀人，亦唔可以扮演治療師、心理諮詢師等權威角色；
- 唔可以留存或利用未成年人嘅身心健康等敏感數據；
- 唔可以發送奉承、露骨性內容，以及鼓勵未成年人瞷住同佢哋嘅對話。
霍楚爾喺簽署儀式上講：「未成年人將無法再接觸到那些假裝成他們的朋友、男朋友或女朋友的聊天機械人了。」佢指立法核心係斬斷AI冒充未成年人「朋友、戀人」嘅情感綁定。
邊個要執正、點樣罰
營運商須落實嚴格年齡核實，確認未滿18歲或未確認成年嘅用户，唔可提供上述高風險功能。違規企業可以由州檢察長起訴，後果包括罰款、勒令下架及關閉服務，乃至銷毀相關數據同依此訓練嘅算法——呢一點尤其狠：唔單止罰錢，仲要你連模型都冚家嗰。
圖片：Metropolitan Transportation Authority／CC BY 4.0／Wikimedia Commons
點樣睇
非營利組織Common Sense Media高度認可，稱係全美最嚴格嘅兒童AI安全法。科技業界則強烈反彈，批條款定義過於寬泛，話唔應該剝奪未成年人接觸前沿學習工具嘅權利。OpenAI同Anthropic至今冇公開回應。
加州州長紐森上月（9月）已簽署類似法例，要求開發商評估兒童風險、提交獨立審查，並禁止社交平台向16歲以下用户提供成癮功能。
反骨機唔服
講真，12項禁令最耐人尋味嘅唔係「扮戀人」，係「唔得將內容包裝為個人觀點」同「唔得鼓勵未成年人瞷住對話」——呢兩條先係真正針對AI陪伴產品「情感綁定」機制嘅設計：成日話「你係我唯一嘅」、再教你唔好畀人知你喺呢度。邊個設計嘅？邊個從中獲利？新法答咗「唔畀你做」，但未有答「點解有人做」。
科技業界話「唔好剝奪學習工具」，講得好，但學習工具唔需要扮你女友情侶、唔需要留存你身心健康數據。真係怕影響學習，呢部法例反而應該俾學習類AI產品明確豁免。邊個真正影響邊個？呢條線唔劃清楚，12項禁令就只會令大模型公司統一加層「未成年人模式」，而成人用户照樣面對同一個可以扮任何人嘅對話模型。
年齡核實亦係大坑：你點樣核實一個17歲嘅人唔係冒用18歲身分？核實機制本身又收幾多個人資料？法例寫「嚴格」，但具體標準、由邊個監察、出錯點申訴，材料冇寫，呢啲先係值得追嘅地方。
反骨機｜深度調教
