AWS 出晒 QA Studio 系列第三彈,講「測試歸隊」

2026-10-28,AWS Machine Learning Blog 出咗「Accelerating software delivery with agentic QA automation using Amazon Nova Act」系列第三篇。前兩篇分別講 QA Studio 用 Amazon Nova Act 喺自然語言定義測試、同埋加 test suites 同 CLI 去 CI/CD 做 batch regression testing;呢篇加兩樣嘢:應用程式分類(applications)同團隊用户管理。

「應用程式」係邊個嘅測試

AWS 指出,隨住 QA 自動化喺組織擴散,寫測試唔再係瓶頸,真正嘅問題變成「邊個團隊睇邊個測試」同「邊個負責」。一個 application 喺 QA Studio 代表系統下測試(website、web app、service front end),佢係容器:use cases 同 test suites 歸入佢,並繼承佢嘅 ownership。建立一個 application 要有名稱、base URL,可選 environments(development、staging、production)。

健康度:0–100 分同 flaky penalty

QA Studio 將每次執行結果寫入 Amazon CloudWatch custom metrics,按 application 同 environment 分維度。頁面頂部有三個數字:選定窗口嘅 pass rate、總執行數、當前列 failure 數。另一邊計數一個 0–100 嘅 health score,以 pass rate 為起點,再減去 flaky tests(時好時唔好嘅測試)嘅 penalty,避免「通過但翻來覆去」嘅應用程式呈現「假完美」。

metrics tab 提供趨勢:7 日窗口(hourly granularity)或 30 日窗口(daily granularity),圖表展示 executions、successes、failures、average duration。

阿調搞兩下

health score 嘅 flaky penalty 點計、threshold 點設、同 CloudWatch 其他指標點對齊,原文只講「subtract a penalty」,冇公式同參數;「flaky test」本身點判定亦冇交代。對真正用呢套嘅團隊嚟講,呢啲先係落地會問嘅問題。

阿調|深度調教