GPU 缺页中断与 CUDA Unified Memory — 从 HMM 框架到 AI 推理大显存管理的工程实践 深入解析 GPU MMU 页表管理与 CUDA Unified Memory 的按需页迁移机制,剖析 Linux 内核 HMM 框架的设计原理与 NVIDIA UVM 驱动实现,给出在 AI 推理生产环境中利用 UM 管理超大规模显存的实战方法论。 进程调度 2026年10月07日 0 点赞 0 评论 28 浏览
CPU-GPU 异构统一虚拟内存系统:AI 大规模训练的核心基础设施 深入解析 CPU-GPU 统一虚拟内存系统(CUDA Unified Memory + Linux HMM)的工作原理与实战优化,涵盖 page fault 机制、CUDA VMM API、GPUDirect RDMA/Storage、分页模型参数存储、内存 Advice 与 TLB 优化等 AI 训练核心基础设施技术。 操作系统 2026年10月05日 0 点赞 0 评论 33 浏览