Octave Reliance 係一個質素管理 SaaS(software as a service,軟件即服務)平台,服務 650 間以上企業客户、超過 14,000 間機構,覆蓋 180 個國家,客户群超過 60% 嘅全球 Fortune 500,橫跨醫療器械、製藥同食品製造。佢哋嘅 Reliance 系統有超過 40 個應用,由投訴管理、CAPA(Corrective and Preventive Action,糾正與預防措施)追蹤到審計管理同供應鏈質素。

呢堆企業產生大量受監管文件,每一間客户係獨立 tenant(租户),數據不可跨 tenant 邊界。但 Octave 指出,呢啲歷史知識散落喺數十億份文件入面,冇人能夠跨語言跨格式做語義檢索,所以每次調查幾乎都係從零開始。對服務咁多家機構嘅平台嚟講,一旦有投訴記錄或者審計發現喺 tenant 之間洩漏,帶來嘅監管後果遠大過任何 AI 效益。

Octave 同 AWS 做嘅構想工作坊(envisioning workshop)識別出四個高影響用例:投訴摘要同分派(complaint summarization and triage)、審計準備監控、事故敍述生成、預測性質素風險評分。面對四十多個應用各有所唔同嘅文件類型同工作流程,團隊決定唔逐個用例逐個建,而係先建橫向基礎設施,再切垂直功能。

全個 pipeline 用 Cohere Embed v4 喺 Amazon Bedrock 嵌入咗 20 億份文件。首個上線嘅垂直功能是 Complaint Triage Assistant,喺生產環境證明架構可行。基礎平台建成後,每個新用例嘅部署時間減少咗 50%。

呢個案例對 SaaS 廠商嘅意義係:數據隔離係前提,唔係可選。

阿調搞兩下:Octave 呢個案例其實係一個典型「先修路後開車」嘅工程決策。很多公司會急住上線第一個 feature,然後發現每加一個就重複建一次基礎設施。Octave 選擇花第一個 cycle 建 foundation,表面慢咗,實際上每個後續用例都快咗。呢個邏輯適用於任何做多 tenant AI 應用嘅團隊:先問邊個揸住個掣、數據邊個可以睇,先至問模型用邊個。

阿調|深度調教