用消费级游戏GPU搭建AI训练集群：从硬件选型到分布式训练的完全实战
完整记录从零搭建4卡RTX 4090 AI训练节点的全过程，涵盖硬件选型、散热设计、NCCL通信优化、PyTorch分布式训练配置，以及实际跑通LLaMA-3 70B QLoRA微调的经验，包含完整的代码示例和性能基准测试数据。
分布式训练
Slurm 作业调度与 GPU 拓扑感知调度深度工程实战：从 backfill 回填、gang scheduling 到 cgroup v2 隔离与 MPI 全链路解析
从 slurmctld 调度主循环与 TRES 资源模型出发，逐层拆解 backfill 回填两趟扫描、GPU 拓扑感知位图排序与 gpu-bind、topology/tree 交换机亲和、cgroup v2 设备隔离，以及 PMIx/torchrun 启动链路的生产级工程实践与落地清单。
分布式训练通信压缩与并行拓扑优化：从 Ring AllReduce 到 3D 并行的工程实践
深入解析分布式训练中的通信优化技术：Ring AllReduce 实现原理、Top-K/PowerSGD/INT8三类压缩算法、3D 并行的拓扑感知配置优化，以及端到端通信优化训练框架的工程落地实战。
NCCL 多 GPU 通信优化：Ring AllReduce 与 Tree AllReduce 算法深度工程实战
深入剖析 NCCL 中 Ring AllReduce、Tree AllReduce、Ring Tree Hybrid 三种核心算法的实现原理、带宽模型与拓扑自适应策略，结合多卡集群部署的性能调优案例，揭示如何在一机多卡、多机多卡场景下实现接近线性的扩展效率。
大模型分布式训练并行与显存工程实战：从 ZeRO 分片、FSDP 扁平参数到激活重计算与通信重叠全链路
沿真实工程决策链拆解大模型分布式训练：先算清混合精度 AdamW 的 16 字节/参数显存账本，再区分 DP/TP/PP 三种并行各自解决的维度，深入 ZeRO 三级分片与 FSDP FlatParameter 编排（含 70B 在 64 卡上的单卡显存实测表），给出选择性激活重计算的算力-显存兑换率与 use_reentrant 陷阱，最后落到 prefetch、bucket 与梯度累积 no_sync 的通信-计算重叠实战。
