GPU Direct Storage：GPU 直接存储访问在 AI 推理数据管道中的工程实践 GDS让GPU显存直接与NVMe控制器建立DMA链路。深入剖析nvidia-fs驱动架构、cuFile API异步批量提交、GPU内存注册双缓冲策略，结合PyTorch容器化部署给出性能调优参数矩阵。 推理部署 2026年10月04日 0 点赞 0 评论 74 浏览
Inside FlashAttention-3：面向 Hopper 架构的 IO-Aware 精确注意力机制深度解析 FlashAttention-3 通过深度挖掘 NVIDIA Hopper GPU 的 TMA、异步事务屏障、warp 级矩阵运算等硬件特性，在不牺牲数值精度的前提下将 HBM 访问降低到理论下限的 1/4。本文从算法原理、硬件协同设计、工程实现三个维度揭开 FlashAttention-3 的底层逻辑。 大语言模型 2026年10月02日 0 点赞 0 评论 80 浏览
