2026 年 10 月 8 日，AWS 喺自家 Machine Learning Blog 放出嘅技術文章，講一個具體問題：同一間公司入面有多支團隊——做 LLM 訓練嘅資料科學組、跑推理工負嘅電腦視覺組、仲有實驗新模型架構嘅研究組——都需要同一個 GPU cluster，點樣先到做到隔離、公平同獨立運作。
呢篇唔係新產品發布，而係份參考架構（reference architecture），用 SageMaker HyperPod（Amazon EKS 版本）做底，示範點樣搭起一個多租户（multi-tenant）環境。
隔離點做
每支團隊各自有：
- 獨立 Kubernetes namespace——workload 隔離
- 獨立 permission set，對應一個自動開嘅 IAM role
- 獨立 SageMaker AI Domain——每個團隊有自己嘅 SageMaker Studio 入口
用户有兩條認證路徑。第一條行 CLI：aws sso login 會將用户導向 AWS IAM Identity Center Portal，登入後取得該團隊 permission set 嘅臨時憑證，再經 kubectl 直接將任務提交到 EKS cluster。第二條行網頁：用户喺 Identity Center Portal 入面揀 SageMaker Studio，登入屬於自己團隊嘅 SageMaker AI Domain。Identity Center 可同外部身份提供商聯動，文內舉例係 Microsoft Entra ID。
公平分配同計費
文內提及兩項機制處理資源問題：
- HyperPod Task Governance——做公平資源分配（fair resource allocation），避免某個團隊無節制消耗 GPU
- Namespace-level cost allocation——按 namespace 劃分費用，令每個團隊嘅開支可追溯，可做內部 chargeback（成本轉移）
SageMaker HyperPod 本身處理節點健康監控、故障恢復同集群生命週期管理。文內提及 EKS 同 Slurm 兩種編排方式。
阿調搞兩下
呢份係架構指南，唔係產品更新，同埋係 AWS 自己寫嘅自家技術，沒有第三方實測。對企業而言，多租户 GPU 隔離係真實痛點——GPU 貴，多隊共用冇好嘅分租機制就係爭執同浪費。呢份藍圖值得參考，但實際部署前仍要按自己環境驗證權限配置同網路隔離是否足夠。
HyperPod 嘅具體 GPU 型號、價格同可用區域，本文未提及。
