CUDA Tensor Memory Accelerator (TMA) 深度工程：Hopper 架构的异步张量搬运引擎
从硬件机制到 CuTe 编程模型，全方位拆解 NVIDIA Hopper 架构引入的 Tensor Memory Accelerator (TMA)。涵盖 cp.async.bulk、多维张量描述符、mbarrier 多级流水线同步，以及 TMA + WGMMA 协同实现 940+ TFLOPS 的工程实践。
Hopper
Pallas GPU 内核编程：XLA 编译器 + Hopper TMA 异步拷贝的 SMEM 流水线深度实战
Pallas 是 JAX/XLA 生态中用于编写高性能自定义 GPU 的底层编程模型，它通过 pallas_call 入口和 AsyncCopy 原语，让开发者既能利用 XLA 编译器的全局优化能力，又能精细控制 Hopper 架构的 Tensor Memory Accelerator (TMA) 硬件单元。
Inside FlashAttention-3：面向 Hopper 架构的 IO-Aware 精确注意力机制深度解析
FlashAttention-3 通过深度挖掘 NVIDIA Hopper GPU 的 TMA、异步事务屏障、warp 级矩阵运算等硬件特性，在不牺牲数值精度的前提下将 HBM 访问降低到理论下限的 1/4。本文从算法原理、硬件协同设计、工程实现三个维度揭开 FlashAttention-3 的底层逻辑。
