GRPO 后训练系统工程实战:从 RLHF 偏好建模到可验证奖励的全链路架构 拆解 GRPO 后训练系统的工程内核:PPO Critic 为何在 LLM 场景失效、组内基线归一化与零标准差组的语义处理、token 级损失归一化如何消除长度偏置、可验证奖励(RLVR)与沙箱判定器设计、rollout-colocate 架构下的权重重分片与 logprob 对拍,附损失实现、verl 配置与生产坑位清单。 全栈开发 2026年10月01日 0 点赞 0 评论 47 浏览
分布式训练并行策略体系:ZeRO / FSDP / 3D Parallelism / Pipeline Bubble 优化实战 大模型分布式训练并行策略深度实战——从ZeRO三阶段显存优化到FSDP工程实现,从张量并行与流水线并行的拓扑映射到Bubble消除策略(1F1B/Interleaved/ZBV),附生产级配置模板。 分布式系统 2026年10月02日 0 点赞 0 评论 69 浏览
深入理解 Ring AllReduce:分布式训练通信优化的理论与实践 从底层原理到工程实践,深入剖析 Ring AllReduce 算法机制及 DeepSpeed ZeRO-DP 参数分片策略,提供千卡集群训练可落地的通信优化指南 分布式系统 2026年10月02日 0 点赞 0 评论 66 浏览
Google TPU v6 (Trillium) 架构深度解析:从 MXU 矩阵引擎到 JAX 万卡分布式训练 深入解析 Google TPU v6 (Trillium) 的 MXU 脉动阵列微架构、ICI 芯片间互连拓扑、HBM 内存子系统,并结合 JAX/XLA 编译器实战万卡分布式训练的工程优化策略。 分布式系统 2026年10月03日 0 点赞 0 评论 66 浏览
JAX/XLA 编译器基础设施深度解析:从 Python 函数到分布式 GPU 代码的编译之旅 深入拆解 JAX 的编译流水线,从 trace 机制到 HLO 优化、从自动微分规则推导到 GSPMD 分区器,揭示这套系统如何将 Python 代码转化为跨数百个 TPU/GPU 运行的高性能计算图。 编译原理 2026年10月04日 0 点赞 0 评论 58 浏览
AI大模型分布式训练:张量并行与流水线并行深度实践 深入拆解大模型训练的两大核心并行策略——张量并行与流水线并行。从矩阵分块原理、1F1B 调度算法到 Megatron-LM 工程实现,配合 PyTorch 代码实战,详解 TP × PP × DP 三维并行体系如何在 3072 张 GPU 上跑出近线性加速比。 模型微调 2026年10月04日 0 点赞 0 评论 53 浏览
MoE大模型专家并行与动态路由优化——从DeepSeek-V3到生产级推理架构 深入解析MoE稀疏激活架构下的Expert Parallelism设计,从原理推导到生产实战,涵盖Top-K Gating、Auxiliary Loss、All-to-All通信优化、Expert Offloading以及DeepSeek-V3的Aux-Free负载均衡策略。 推理部署 2026年10月04日 0 点赞 0 评论 88 浏览
分布式大模型训练 Checkpoint 工程——TB 级状态的高效保存、恢复与容错存储系统设计 深入剖析分布式大模型训练中 Checkpoint 系统的工程实现——从分片保存、异步重叠、分层存储到恢复精度验证,覆盖万亿参数模型 TB 级状态的高效保存与恢复全流程。 分布式系统 2026年10月04日 0 点赞 0 评论 72 浏览
用消费级游戏GPU搭建AI训练集群:从硬件选型到分布式训练的完全实战 完整记录从零搭建4卡RTX 4090 AI训练节点的全过程,涵盖硬件选型、散热设计、NCCL通信优化、PyTorch分布式训练配置,以及实际跑通LLaMA-3 70B QLoRA微调的经验,包含完整的代码示例和性能基准测试数据。 分布式系统 2026年10月04日 0 点赞 0 评论 42 浏览
Slurm 作业调度与 GPU 拓扑感知调度深度工程实战:从 backfill 回填、gang scheduling 到 cgroup v2 隔离与 MPI 全链路解析 从 slurmctld 调度主循环与 TRES 资源模型出发,逐层拆解 backfill 回填两趟扫描、GPU 拓扑感知位图排序与 gpu-bind、topology/tree 交换机亲和、cgroup v2 设备隔离,以及 PMIx/torchrun 启动链路的生产级工程实践与落地清单。 工程实践 2026年10月05日 0 点赞 0 评论 43 浏览