LLM Training

基于我们的 ACM Computing Surveys 论文，梳理 GPU 数据中心里的训练、推理、HPO、混合负载以及未来调度器设计。

一篇关于 ResiHP 的技术报告：它在变长序列带来的噪声中识别 fail-slow 设备，并动态调整 3D 并行来提升大模型训练韧性。

一篇关于 Hydro Bubble Squeezer 的技术文章：它把轻量级超参数搜索任务放进大模型流水线并行训练的空泡里运行。