本月，Hurricane Isaias 以第 3 級颶風身分登陸墨西哥灣海岸。

事後，Alabama 一名氣象學家致電 University of Alabama 嘅 Center for Advanced Public Safety 總監 Laura Myers，報告當地一名縣級緊急管理官用生成式 AI chatbot 生成咗一張顯示 Isaias 可能威脅 Alabama 海岸嘅風暴影響圖，並向公眾發布。

Myers 嘅評估係：「佢試緊令該縣嘅持份者注意風險，所以問 AI 幫手。佢照做，但氣象上唔準確。」

呢個事件唔係孤例，亦唔係技術故障。佢反映咗美國成個緊急管理體系正經歷嘅過渡：警報，由人寫，逐步交俾 AI。

多數機構唔准用　專家信實際已普遍見

多數美國緊急管理機構禁止員工使用生成式 AI。但 Myers 同多數其他緊急管理專家都同意：呢類工具喺州同地方災難部門嘅使用，相信已經相當普遍（likely already pervasive）。

背景係數百家公司同時向緊急管理界推銷 AI 工具，涵蓋洪災損毀評估、資源調度，而對公眾嘅快速通訊，係政府員工同初創公司都最感興趣嘅領域。

為什麼會走到呢一步

多數緊急管理官唔擅長寫警報，唔係佢哋唔肯，係人手同時間唔夠。Albany University 嘅災難研究員 Jeannette Sutton 指，佢已經開發咗一套提供災難警報模板嘅儀錶板，「好多機構真係人手同資源極有限……佢哋認清呢個係優先事項，但直到意識到應該做到，先會真去做」。

人手寫警報嘅老毛病：術語太專業、假設公眾已經知道嘅前提、同真正重要嘅訊息無關嘅細節。

呢啲錯代價，有時係人命。

  • 2016 年，加州兩所相鄰縣針對同一場野火，一個發出「自願撤離」、一個發出「強制撤離」。
  • 2019 年，澳洲政府就野火發出「Watch and Act」警告，政府事後承認呢句措辭造成「嚴重混淆」，因為冇人知道係乜意思。

阿調搞兩下

呢個係一個好標準嘅「AI 落場」問題：工具做乜、邊個負責、邊個執手尾。

AI 照做，唔會諗你嘅圖係咪「氣象上正確」，因為佢冇呢個概念。信賴，係呢個體系入面最貴嘅貨幣，亦係最容易被 AI 一筆帶過嘅嘢。

數百家公司同時推銷緊呢類工具。有冇標準嘅驗證機制，確保 AI 生成嘅警報發出之前，有真人核對過氣象數據？呢個問題，材料入面冇答案，因為佢都未發生。

阿調｜深度調教