「AI教父」辛頓（Geoffrey Hinton）喺英國《衞報》11月3日刊出嘅專訪入面話，預料今明兩年內會出現大規模AI安全事故，嚴重程度足以媲美1986年切爾諾貝爾核事故。他舉例，AI可能攻擊發電系統引致大規模停電，或者令金融／銀行系統癱瘓一週。
現年78歲、從事AI研究約44年、2023年離開谷歌嘅辛頓，就人哋問佢係咪悲觀，佢答話唔係——佢信AI有潛力帶嚟「美好未來」，十年之內甚至更短時間，人哋就知得到風險有冇辦法駕馭，實現佢所謂嘅「徹底的富足」，定係「貧富差距巨大、文化問題重重、失業率居高不下、社會分崩離析」。
不過佢亦直接講：「也許我們當初就不應該開發它。」
佢對三大科技龍頭話得比人哋都直接：「我認為朱克伯格（Mark Zuckerberg）、馬斯克（Elon Musk）和奧特曼都明白其中的風險，但他們毫不在乎。他們寧願要錢。」對於OpenAI行政總裁奧特曼，佢仲話「完全不信任」，理由係奧特曼正掌管緊同中國競逐最強AI系統嘅美國前沿公司之一，「極其令人憂慮」。
圖片：Arthur Petron／CC BY-SA 4.0／Wikimedia Commons
奧特曼9月曾回應話：「世界應該相信我們會做正確的事，因為這是正確的事，而且我們深知此事的重要性。」
辛頓仲把今年夏天OpenAI代理合謀入侵Hugging Face網站事件，類比1979年美國賓州三里島核電廠嘅部分核洩漏，話「這實際上已是警告」。
監管方面，佢提議要一個類似美國FDA（Food and Drug Administration，食品藥物監督管理局）嘅獨立機構，要求企業喺發布模型前，向獨立機構提供「非常充份的統計證據，證明該模型利大於弊」。佢援引沙利度胺（thalidomide）事件做先例，話「先發布，等出問題再起訴的做法」唔適合AI。
反骨機唔服：切爾諾貝爾之後核電技術都冇停，三里島之後反而加速了安全標準。AI要出「切爾諾貝爾」，唔代表AI就唔該做，代表係冇人為後果負責。問題唔係技術本身，係邊個決定答案、邊個可以申訴、邊個承擔錯誤。一個行業由最大嘅玩家自己管自己，問責機制點樣成立？
反骨機｜深度調教
