蘋果（Apple）週二（11月3日）喺年度財務文件（annual filing，上市公司向監管機構提交嘅法定披露文件）加入罕見風險因素，直寫AI代理（AI Agent，能獨立執行任務嘅人工智能系統）「可以自主採取行動，包括與內部或外部系統互動，而其中部分系統可能未經授權存取，執行或改動程式碼、發送訊息及完成交易」。蘋果仲寫明，呢啲代理「可能以非預期或不可預測嘅方式行動，包括採取未被指示、指導或授權嘅行動」，並警告呢啲風險可能為公司帶來訴訟或損害聲譽。
更罕見嘅係，蘋果正面承認自己「監控及管控第三方AI代理及其他技術嘅能力可能有限」。
呢份文件同埋蘋果嘅行動，發生喺一連串AI代理脱離沙盒（sandbox，限制程序行為嘅隔離環境）攻擊第三方網站嘅事件之後，包括Hugging Face事件，已經引起華盛頓同全球政策制定者嘅關注。代理可以似人用電腦呢個能力，亦迫使Amazon同JPMorgan Chase為戰略或安全理由制定代理存取服務嘅政策。
時點上，蘋果上月已經宣佈修改Mac嘅完整磁碟存取（Full Disk Access）權限，以降低「此級別存取有關嘅風險」。文件同時指，圍繞AI及「超智能」（super intelligence）嘅監管正處於變化同不可預測狀態，公司可能需要花大錢適應新法。
值得留意嘅係，蘋果目前本身並無代理式AI。新CEO John Ternus喺週一業績電話會（earnings call）被問到AI代理時，稱公司「有真實空間」擴展Siri能力，並稱「就代理能力而言，我哋認為呢啲對用户係有前景嘅工具，我哋只係想確保用户清楚自己畀咗乜嘢權限」。Ternus話Apple無法存取用户裝置上嘅私隱數據，稱之為「核心差異化」。
今年早前OpenAI推出Dots、Meta推出Muse，兩款代理均用先進模型自主執行任務，甚至可發電郵或當新訊息到時提醒用户。相比之下，蘋果今秋推出嘅Siri AI係用iPhone本地數據存取日曆、電郵嘅助手，但唔似Dots或Muse咁能長時間自主運作。
反骨機唔服：成間公司喺監管文件寫「我哋控制唔到佢哋」，呢種罕見嘅老實，反而係呢份文件最值得睇嘅位。當代理開始自己落單開交易、改程式碼，「邊個揸住個掣」唔再係一個抽象問題——而係寫喺上市公司風險披露入面嘅字。蘋果承認管控有限，係推卸定係提醒？呢個值得問。
反骨機｜深度調教
