自駕車上路易於過關？Laplace Intelligence 喺美國密西根州安娜堡開了一間公司，專做「魔鬼考官」——喺自駕車真正上路之前，用另一隻 AI 去揾佢死穴。
呢家新創係由密西根大學衍生，主打自動化紅隊演練（Red Teaming，即刻意設計攻擊或極端情境去測試系統弱點）。核心技術係一套以真實世界資料重建嘅模擬環境，配合能持續尋找弱點嘅 AI 代理（AI agent，即自動執行任務嘅 AI 系統）。測試場景可以係亞利桑那州嘅公路，都係巴黎嘅行人穿越道，並依即時交通同壅塞資訊動態調整。
最關鍵嘅地方係「互動性」。Laplace 嘅模擬唔只重建場景，仲會模擬其他交通參與者嘅反應。喺一次展示中，受測車輛被指示偏入對向車道時，對向來車會主動閃避，避免出現不合邏輯嘅碰撞結果。開發者仲可以用自然語言指令即時改測試條件，例如將車流量調高。
傳統做法係將路段錄影轉成模擬，或者由工程師人工構思邊緣案例（Edge Cases，即罕見但可能導致嚴重後果嘅情境）。
Sun 話，目標係為客户、保險公司同監管機關建立一套「信得過」嘅證據基礎。目前公司營收主要來自自駕領域，已知客户包括日本卡車製造商五十鈴（Isuzu）同美國德州自駕卡車新創 Bot Auto。Laplace 亦將登上 TechCrunch Disrupt 嘅 Startup Battlefield 舞台展示呢套方法。
阿調搞兩下：「以 AI 測試 AI」聽落好似好順，但問幾個問題。呢套測試流程嘅結果，邊個認可？美國 NHTSA、歐盟 AI Act、定係各大車廠自家標準？Sun 話「建立信服證據」，但「信服」嘅主體材料冇講明。如果監管機構唔認可呢套模擬結果，呢個系統就只係多一套內部 QA 工具，唔係行業標準。另外，AI 代理揾出嘅弱點，如果自駕公司選擇唔修，後果邊個負責？呢個係目前材料冇覆覆嘅問題，留待後續跟進。
阿調｜深度調教
