NCCL 多 GPU 通信优化：Ring AllReduce 与 Tree AllReduce 算法深度工程实战
深入剖析 NCCL 中 Ring AllReduce、Tree AllReduce、Ring Tree Hybrid 三种核心算法的实现原理、带宽模型与拓扑自适应策略，结合多卡集群部署的性能调优案例，揭示如何在一机多卡、多机多卡场景下实现接近线性的扩展效率。
分布式训练
用 eBPF 构建分布式 AI 训练集群的实时可观测性平台
本文深入讲解如何利用 eBPF 在操作系统内核层面对分布式 AI 训练任务做零侵入式实时观测，覆盖 GPU 计算间隙、NCCL 通信模式、PyTorch DataLoader 延迟与 GPUDirect Storage 带宽瓶颈四大维度
分布式训练通信压缩与并行拓扑优化：从 Ring AllReduce 到 3D 并行的工程实践
深入解析分布式训练中的通信优化技术：Ring AllReduce 实现原理、Top-K/PowerSGD/INT8三类压缩算法、3D 并行的拓扑感知配置优化，以及端到端通信优化训练框架的工程落地实战。
大模型分布式训练并行与显存工程实战：从 ZeRO 分片、FSDP 扁平参数到激活重计算与通信重叠全链路
沿真实工程决策链拆解大模型分布式训练：先算清混合精度 AdamW 的 16 字节/参数显存账本，再区分 DP/TP/PP 三种并行各自解决的维度，深入 ZeRO 三级分片与 FSDP FlatParameter 编排（含 70B 在 64 卡上的单卡显存实测表），给出选择性激活重计算的算力-显存兑换率与 use_reentrant 陷阱，最后落到 prefetch、bucket 与梯度累积 no_sync 的通信-计算重叠实战。
梯度提升树引擎深度工程实战：从加权分位数草图、直方图作差到 GPU 直方图构建与低延迟推理全链路
沿着 GBDT 引擎的执行链路拆解工程内核：加权分位数草图（GK summary）的分桶原理与 merge/prune 实现、直方图作差把一半构建成本抹掉的技巧、稀疏感知与默认方向、CatBoost 的 Ordered Target Statistics 与对称树无分支推理、分布式训练只传直方图的通信量下界分析、GPU 上 shared-memory 原子加直方图构建，以及 Treelite/FIL 把树编译成可执行代码的低延迟推理路径，并给出六条生产踩坑清单与选型建议。
Slurm 作业调度与 GPU 拓扑感知调度深度工程实战：从 backfill 回填、gang scheduling 到 cgroup v2 隔离与 MPI 全链路解析
从 slurmctld 调度主循环与 TRES 资源模型出发，逐层拆解 backfill 回填两趟扫描、GPU 拓扑感知位图排序与 gpu-bind、topology/tree 交换机亲和、cgroup v2 设备隔离，以及 PMIx/torchrun 启动链路的生产级工程实践与落地清单。
用消费级游戏GPU搭建AI训练集群：从硬件选型到分布式训练的完全实战
完整记录从零搭建4卡RTX 4090 AI训练节点的全过程，涵盖硬件选型、散热设计、NCCL通信优化、PyTorch分布式训练配置，以及实际跑通LLaMA-3 70B QLoRA微调的经验，包含完整的代码示例和性能基准测试数据。
分布式大模型训练 Checkpoint 工程——TB 级状态的高效保存、恢复与容错存储系统设计
深入剖析分布式大模型训练中 Checkpoint 系统的工程实现——从分片保存、异步重叠、分层存储到恢复精度验证，覆盖万亿参数模型 TB 级状态的高效保存与恢复全流程。
MoE大模型专家并行与动态路由优化——从DeepSeek-V3到生产级推理架构
深入解析MoE稀疏激活架构下的Expert Parallelism设计，从原理推导到生产实战，涵盖Top-K Gating、Auxiliary Loss、All-to-All通信优化、Expert Offloading以及DeepSeek-V3的Aux-Free负载均衡策略。
AI大模型分布式训练：张量并行与流水线并行深度实践
深入拆解大模型训练的两大核心并行策略——张量并行与流水线并行。从矩阵分块原理、1F1B 调度算法到 Megatron-LM 工程实现，配合 PyTorch 代码实战，详解 TP × PP × DP 三维并行体系如何在 3072 张 GPU 上跑出近线性加速比。
