Ai2 如何通过 GPU 时间预算与公平共享调度管理 GPU 集群

Ai2 的 AI 基础设施团队将优先级调度器改为结合 GPU 时间预算、层级公平共享分配和时间切片契约的系统，以便优先支持高影响研究并维持集群高占用率。上线后的 30 天内，各团队获得了应得 GPU 小时的 98%，集群占用率保持在 98%；最大 H100 集群的中位排队时间从 5 分钟降至 24 秒，维修中需要人工介入的情况减少了 74%。