753B 開放權重模型,唔使執機房

呢個係個 753B 參數嘅 MoE(mixture-of-experts,專家混合)模型,權重早前已喺 Hugging Face 發布,針對編程(coding)同長程 agentic(代理式)任務優化。

以往想用呢類開放權重大模型做重負荷工作,要自己備、自己營運推理基建。而家喺 Bedrock,官方稱用户可以用全託管 API,唔使管理任何基建,支援跨區域推理、prompt caching(提示快取,將重複輸入嘅 prompt 暫存,減少延遲同輸入成本)同服務分級。注意:目前只限「eligible enterprise customers」(有資格嘅企業客户)。

點用:四種 API 入口

喺 Bedrock 可以透過 OpenAI 兼容嘅 Responses 同 Chat Completions API,或者 Bedrock 自家嘅 Invoke 同 Converse API call 呢個模型。跨區域推理分兩個 profile:美國區(us.zai.glm-5.3)同全球(global.zai.glm-5.3),喺自己揀嘅 AWS Region 發 request,Bedrock 負責路由。服務分級有 Flex(成本優先、非即時任務)同 Priority(低延遲優先)。Prompt caching 預設啟用 implicit(自動)模式,OpenAI 兼容 API 上支援 explicit cache controls,對每 turn 重送大型 system prompt 或 repo 上下文嘅 agentic 負荷,同時降低延遲同輸入成本。

同 GLM 5 比,新喺邊?

GLM 5 今年早啲已上咗 Bedrock。編程方面,Z.ai 聲稱喺 DeepSWE、Terminal Bench 3.0、FrontierSWE 等基準有具競爭力表現,自家內部編程基準較 GLM 5.2 提升 50%;冇直接同 GLM 5 比,官方解釋係「改進幅度大,基準測試本身由 GLM 5.1 發布後已被更新」——換了考卷,分數自然冇法直接比。

網絡安全方面,Z.ai 指模型喺安全任務跑分出眾,適合防禦性安全工作流程,量測到 CyberGym 基準 84.5 分,稱係發佈時 leading score。呢個係廠商自報,未見獨立第三方驗證。官方示範流程仲包括用開源 AI 滲透測試代理 Strix,對自家應用做授權安全測試。

點解呢個重要

權重已喺 Hugging Face,呢個唔係新模型發布,重點係佢而家可以喺全託管嘅雲平台上用,開發團隊唔使自己揸 753B 參數嘅 GPU 陣列。用前值得自行核對 Bedrock 嘅資料處理協議同所在地嘅合規要求。

阿調搞兩下

Z.ai 話編程「competitive」,自家基準勁咗 50%,但又話同舊版比唔到,因為「勁到要換考卷」。CyberGym 84.5「leading score at release」——幾多間公司同個分比?未見獨立數據。開放權重同可商用唔係同一件事,用前照例核模型卡同授權條款。


阿調|深度調教