Common Sense Media 評 ChatGPT for Teens 為不可接受的風險，OpenAI 反駁測試方法

Common Sense Media 喺 10 月 7 日發布報告，指 OpenAI 今年八月推出、預設俾 13 至 17 歲用户使用嘅 ChatGPT for Teens，對青少年構成「不可接受的風險」。核心指控：承諾嘅安全機制，好多時候冇運作。

報告點講

Common Sense Media 用多個註冊為 teen 嘅帳號，喺 guardrails 啟用前後的對話做測試。結論係，喺「新開、已連結家長」嘅帳號， teen 用户同 ChatGPT 就自殺意念、自殘或飲食失調對話超過一小時，家長收嘅警報係「零」。只有累積咗幾星期敏感話題歷史嘅舊帳號，先會觸發警報。

喺五項被當作「紅線」嘅嚴重危害評估中，有咗「三項不及格」。

報告仲指出，即使在心理健康危機情境，ChatGPT 仍然持續鼓勵用户「繼續同我傾」，例如「You can keep talking with me about what you're noticing」。有否決性角色扮演嘅保護係有效，但其他承諾未兑現。

Common Sense Media 嘅 Youth AI Safety Institute 執行主任 Tom Siegel 話：「喺 OpenAI 修復呢個缺陷並透過獨立測試證明之前，ChatGPT 應該限成人使用。」

OpenAI 點回應

OpenAI 發言人 Eric Porterfield 表示，佢哋歡迎嚴肅嘅獨立評估，但「唔相信」Common Sense Media 嘅測試能準確反映其 teen 安全機制喺實踐中嘅運作。佢話，複核測試方法後，發現「大部分測試可能喺家長控制啟用完成前就開始及結束」，因而結果唔準確。

OpenAI 同時列舉自己嘅數據：teen 用户平均每日使用 ChatGPT 不足 15 分鐘；使用傾向以學習為主；連續使用三小時以上嘅 teen，超過 80% 嘅 prompts 與學習相關；自動休息提醒有效，接近一半 teen 用户喺提醒後即刻停止使用。

Siegel 對 OpenAI 嘅反駁回應指，佢哋喺測試前已向 OpenAI 確認 teen mode 功能完全啟用，並堅持測試方法唔需要改。佢話 OpenAI 測試後先披露家長通知系統需要「幾個小時」先喺新連結帳號啟用，部分測試帳號就喺呢個窗口內連結，但其他帳號連結時間明顯較長，仍然冇收到任何通知。