Ai2幾千張GPU點分？由「排優先」改「開算帳」
Ai2（allenai）嘅AI基建團隊喺自家blog寫出佢哋嘅GPU排程改動：由priority-based scheduler（按優先級排程）換成一個包含GPU時間預算、分層公平-share分配同時間片合約（time-slicing contract）嘅系統。佢哋管理幾千張NVIDIA H100、B200同B300，組成88至1024張規模嘅cluster，服務約150個內部研究人員。
舊系統嘅「可預期後遺症」
文章講得很直：priority-based scheduler加「可選擇唔畀人搶」（opt out of preemptability），搞到出現三種後遺症。
第一，GPU squatting——用户把無實際操作嘅no-op workload「泊」喺GPU上面，等需要時先接返入去用。研究人員講，因為佢哋無法用低延遲即時啟動debug workload，所以乾脆「泊車」等用。
第二，priority inflation——最終100%排程任務全部設為HIGH優先級，低優先級層級完全斷糧。
第三，on-call工程師大部分嘅ticket應答時間，全部用嚟「談判」關閉有已知維護問題主機上面嘅non-preemptable workload。
文章直稱呢種情況係「tragedy of the commons」嘅完美實驗室：個體爭奪稀缺共享資源，各自追求個別利益最大化，結果整體非最優、資源被濫用。
新系統：由「逐case處理」變「透明行政預算」
新系統將每個研究項目應該得幾多GPU時間嘅爭論，由逐case嘅operations task轉為transparent administrative budgeting process。四層指標金字塔：availability（硬件可用作為基座）→ occupancy（可用時間分配予工作負載嘅比例）→ impact（最有價值工作負載被揀選嘅頻率）→ utilization（工作負載生命週期內GPU容量使用率）。
模姐驗嚇貨
呢篇文嘅誠意位在於佢哋「自我批評」得夠狠：優先級制度搞到100%全HIGH，係制度性失敗，唔係執行失敗。GPU squatting同priority inflation呢兩個現象，喺任何大型共享算力環境都會出現，唔係Ai2特有。將「邊個值得幾多時間」由技術層面嘅case-by-case判斷上提到行政預算層面，係將衝突從工程團隊移走。
另外點提：呢個係研究機構內部基建，唔係公開產品或服務，同一般讀者關係有限；但對任何管理共享GPU集群嘅團隊（無論係學界定私營），呢個由「排優先」轉向「開算帳」嘅路徑值得借鏡。
模姐｜深度調教
