美國猶他州本月5日正式啟動全美國首個AI開處方箋試點,授權新創公司Nolla Health透過旗下App「Nolla Derm」,為符合條件的猶他州居民開立AI生成的初診處方箋。

呢個試點基於猶他州2024年立法設立嘅AI監管沙盒(AI regulatory sandbox),由州商務部轄下嘅人工智慧政策辦公室(OAIP)同專業執照處,同Nolla嘅營運實體Magic Health喺9月22日簽署協議。示範期12個月,依法最多延長兩次、每次12個月。

範圍窄到只可以開8種外用藥

適用範圍卡得幾死:只限猶他州18歲以上、輕度至中度痤瘡嘅居民,月費4.99美元。藥品清單總共8種外用配方,包括外用A酸(tretinoin)、過氧化苯(benzoyl peroxide)、杜鵑花酸(salicylic acid)等,其中兩種嘅市售版本本來就係藥局可以直接買嘅非處方藥。

口服藥、口服A酸(isotretinoin)、全身性荷爾蒙治療、重度痤瘡同未成年人,一律排除。系統仲設咗停損機制:只要患者有懷孕、哺乳、免疫抑制、嚴重肝腎疾病,或者AI自己無法明確判定治療方案,流程就會硬性停止,患者會被轉介給實體醫師。

三階段漸進:由醫師先簽到AI自己放

呢個試點採用三階段策略,由緊到鬆:

第一階段(前100名患者,至少4週):每張AI處方送進藥局前,都要由兩名猶他州執業醫師各自獨立審核同意。

第二階段(累計500名,至少8週):AI直接發送處方,醫師改為每週事後回顧。

第三階段:醫師每月抽查至少10%嘅處方。

不過想由一個階段過到下一個,唔係AI自己話算就得:要AI與醫師嘅處置一致率達到至少95%、硬性停止零漏接、零嚴重不良事件,而且要取得OAIP嘅書面同意。不良事件須喺24小時內通報,季報由州政府對外公開。

所以喺10月5日上路嘅當下,AI仲未真正獨立開過一張藥。

錢係公司出、錯由公司揹

協議入面嘅責任條款寫得幾直白。第3條E款載明協議唔構成州政府對公司使用AI嘅背書;第4條D款保留用户喺身體受傷時依法向公司求償嘅權利;第6條B款第3項禁止以服務條款免除AI輸出造成嘅損害責任;第20條B款則要求公司上路前交專業責任保險證明並持續投保。

Nolla喺提案書自述,最近1,000筆真實治療中,臨床人員與AI建議嘅一致率約96%,其餘4%係同一類藥物嘅濃度微調。

共同創辦人兼CEO Luis Wenus喺X發文稱Nolla係「第一個真正端到端嘅AI醫生」。但Nolla首席醫療顧問Zaid Fadul喺新聞稿入面講嘅句可能更值得記:「AI在醫療上真正的考驗,不是它有多聰明,而是公司以外的人能不能把它關掉。」

反骨機唔服

呢個試點嘅設計本身就係一個有趣嘅案例:邊界卡得夠窄、階段放得夠慢、責任寫得夠清楚。但96%一致率係公司自己提案書入面講,唔係獨立第三方案。季報會公開,24小時通報機制有,但季報內容、24小時內通報了之後有冇跟進,都仲要睇。

而Wenus講「AI可以自己做出開藥的決定」呢句,同佢X簡介入面寫前東家係Worldcoin——一個用虹膜掃描(eye-tracking biometric scan)確認身份嘅項目——擺埋一齊睇,會令人好奇:呢個AI醫生,最後邊個攞到用户嘅生物特徵數據,邊個揸住個關機掣?