美國計算社群聯盟（Computing Community Consortium，CCC）喺 9 月 24 日放咗份報告，名《Beyond Code: Engineering Trustworthy Software Systems with AI at Scale》，核心問題就一個：AI 大規模幫手寫 code 之後，軟件工程要點樣重新定義先算「可信」？

CCC 話，報告嘅觀點源於 2026 年 2 月喺舊金山舉行嘅願景工作坊，當時有 41 位來自學界、產業同政府嘅專家參與，領域涵蓋 AI、軟件工程、程式語言、資安同系統工程。合著者來自美國同德國八所大學，包括約翰霍普金斯、南加州、伊利諾厄巴納-香檳、夏威夷、猶他、維吉尼亞、懷俄明，同德國奧斯納布呂克大學。

近九成開發者已用 AI 編程

報告列出嘅關鍵數字：AI 編程開發工具喺開發者入面嘅採用率，已去到 84%–90%。即係話，近九成寫 code 嘅人都已用緊 AI 幫手。跟住嚟嘅係一個結構性變化——工程工作嘅重心，由「逐行寫 code」轉去「講清楚要乜、驗收規格、同埋跟住維護」。AI 負責生成，人負責定義需求、把關同收尾。

快過查，先係真問題

報告好直接：業界對 AI 輔助開發嘅期待，同現有技術能力之間仍有明顯落差，最突出嘅就係程式碼嘅生成速度遠快於人類嘅驗證能力。AI 吐 code 幾秒搞掂，人要逐段逐行 check，呢個「驗證缺口」先係下道真正嘅關卡。

七條路徑同安全治理

CCC 喺報告列咗七項技術方向，大致包括：縮短「人想點做」同「AI 理解到嘅需求」之間嘅距離；把生成模型同符號推理（symbolic reasoning）結合；建立跨層次協調；安全唔係後補，要內置喺生成過程入面；訓練資料透明度同智慧財產治理要跟上；透過編譯（translation）機制加固穩健性；以及把 AI 能力延伸到部署同維運（ops）階段。

安全同治理方面，CCC 嘅主張係模型喺生成階段就要預設安全（secure by default），唔好俾漏洞等到上線先至發現；同時建議用不同 AI 系統互相交叉驗證嚟揪出漏洞。報告點出三項系統必須具備嘅能力：資料來源可追溯、歸屬（attribution）可驗證、以及喺不同硬件平台之間保持行為等價。對既有系統嘅現代化，報告建議要先釐清關鍵業務流程、建立測試同可觀測性（observability）機制、限制權限同部署範圍，再逐步擴大 AI 嘅自主程度。

學界要轉彎

CCC 同時間對學界提出三項調整：

  • 產學合作唔好淨係提供評測基準（benchmark），要拿到真實生產環境、遙測數據同規模化測試條件；
  • 研究方向由「評現有模型」轉去由頭設計可形式驗證（formal verification）、可安全構建、易於長期維護嘅新一代模型；
  • 課程設計以需求、規格同系統設計為核心重組——將來學生唔會再淨係靠手寫 code 建立心智模型，而要學會管理更高層抽象，同埋 AI 代理（agent，即能自主執行任務嘅 AI 系統）嘅行為。

呢個同你有乜關係

如果你寫 code，或者團隊有人用緊 AI 編程工具，呢份報告講到句好直接嘅話：快唔再係賣點。CCC 自己講，面對 AI 生成程式快速擴張，下一階段關鍵唔係「寫得更快」，而係系統喺規模化使用下仍然「可理解、可驗證、可信任」。你教 AI 寫得越快，你同你老細就越要清楚邊段 code 係 AI 出嘅、點樣生成、點樣先信得過。而家呢個驗證環節，唔可以交畀 AI 自己。

阿調搞兩下

84–90% 呢個採用率值得諗。寫 code 嘅工具已經換代，但「信唔信佢」呢個判斷，責任仍然喺用人嗰度。AI 寫 code 快過人查，唔代表人可以唔查——正正相反，驗證缺口越大，人越要執手尾。點樣令「驗證」跟到「生成」嘅速度、做到自動化，先係真正嘅下道關卡。而家呢關卡，仲喺人手。

阿調｜深度調教