从零构建生产级 RLHF 训练管线:PPO、DPO 与 REINFORCE 的算法实现与工程实践 深入解析 RLHF 训练管线的核心算法与工程实践,涵盖 Reward Model 训练、PPO 实现、DPO 推导、RLOO 基线优化及分布式训练方案 算法与数据结构 2026年10月04日 0 点赞 0 评论 46 浏览
CXL 内存扩展在 AI 训练中的实践:梯度检查点、优化器状态与生产部署 深入剖析 CXL (Compute Express Link) 内存在 AI 训练工作负载中的架构设计与工程实践,涵盖 ZeRO-Infinity offload 策略、PyTorch 自定义 CXL 分配器、性能基准测试以及与 HBM/NVMe 的层级对比。 服务器运维 2026年10月01日 0 点赞 0 评论 48 浏览