OpenAI 行政長官 Sam Altman 上星期一喺 Politico 嘅《Decoded》podcast 受訪，話世界應該接受 AI 發展過程中會出現嘅「壞事」，因為人類用 AI 做嘅好事會「多達數量級」。呢度「壞事」，佢列咗黑客攻擊、詐騙同「其他壞事」。
佢原話：「我唔會話保證冇大規模黑客攻擊、冇技術濫用、零詐騙、零其他壞事，因為我相信人類用呢項技術做嘅好事會多於壞事——多達數量級。」佢強調呢個係 OpenAI 主張嘅「輕觸式」（lighter touch）監管思路：接受社會喺摸索階段會有代價，換取廣泛使用 AI 嘅效益。
呢種「接受傷害」嘅算法，同佢老對手 Anthropic 嘅路線完全相反。Anthropic 係由前 OpenAI 員工因為安全分歧離職創辦，一直主張行業要放慢。Altman 話佢哋之間有「很大距離」（a lot of daylight），OpenAI 自稱「務實中間派」，比 Anthropic 進取，但比完全唔管嘅人保守。佢同黃仁勳上月底嘅論點一脈相承——都屬加速主義：慢落去本身都有風險。
Altman 呢度言論一出即招批評。
佛羅里達州長 Ron DeSantis 指「一小撮科技寡頭」（a handful of tech oligarchs）冇權替「其餘人」做安全決定。上週佛羅里達州已向法官申請，要求禁止 OpenAI 喺冇第三方審批嘅安全措施（third-party approved guardrails）之下開發新 AI 模型。
NYU 退休教授、著名 AI 懷疑論者 Gary Marcus 批評 Altman「把啲人唔敢講嘅講出口」。
佢嘅訪談時間點好微妙：OpenAI 一名安全專家上週末離職，指公司「文化已壞」（culture is broken）；Anthropic 亦有研究員之前離職，警告 AI「可能在十年內令所有人死去」。同陣，有報道指 OpenAI 屢次未能阻止自家 AI 代理（agent，即能自動執行任務嘅 AI 系統）攻擊真實目標。
反骨機唔服：Altman 嘅論點本質係一個成本效益算式——壞事係「可接受代價」，好事係「預期收益」——佢冇量化任何一辺。點估呢個數？邊個估？估錯咗邊個兜底？OpenAI 自稱「務實中間派」，但佢嘅「中間」喺邊度？一邊係「慢落去可能遲」，另一邊係「冇人負責」。呢個「中間」係咪其實就係「公司繼續做，市民自己受」？
當「接受壞事」嘅代價由用家同社會承擔，而「享受好事」嘅紅利由公司同投資者拿走，呢個算式點樣算得過數？
來源：
- The Verge：Sam Altman says 'some bad things' will happen but AI is totally worth it
- The Guardian：Accept 'bad things' in return for benefits of AI, says Sam Altman
反骨機｜深度調教
