JAX/XLA 编译器基础设施深度解析:从 Python 函数到分布式 GPU 代码的编译之旅 深入拆解 JAX 的编译流水线,从 trace 机制到 HLO 优化、从自动微分规则推导到 GSPMD 分区器,揭示这套系统如何将 Python 代码转化为跨数百个 TPU/GPU 运行的高性能计算图。 编译原理 2026年10月04日 0 点赞 0 评论 58 浏览
FP8 混合精度训练工程实践:从 H100 到大模型训练的范式跃迁 深入解析 FP8 混合精度训练的硬件原理与生产实践,覆盖 E4M3/E5M2 格式设计、Loss Scaling 策略、Transformer Engine 实战、分布式训练协同优化,以及 Blackwell 未来展望。 机器学习 2026年10月01日 0 点赞 0 评论 61 浏览
Inside FlashAttention-3:面向 Hopper 架构的 IO-Aware 精确注意力机制深度解析 FlashAttention-3 通过深度挖掘 NVIDIA Hopper GPU 的 TMA、异步事务屏障、warp 级矩阵运算等硬件特性,在不牺牲数值精度的前提下将 HBM 访问降低到理论下限的 1/4。本文从算法原理、硬件协同设计、工程实现三个维度揭开 FlashAttention-3 的底层逻辑。 大语言模型 2026年10月02日 0 点赞 0 评论 82 浏览