CUDA

1. 首页
2. CUDA

PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo FX Graph 到 TorchInductor Triton CodeGen 的完全工程指南

PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo Python 字节码拦截、FX Graph 中间表示捕获、AOTAutograd 自动微分分解、TorchInductor Triton CodeGen GPU 内核代码生成、算子融合与内存优化、CUDA Graph 捕获、动态形状支持、分布式并行编译、到生产级部署与性能基准测试的完整工程指南。

深度学习 2026年09月20日 0 点赞 0 评论 58 浏览

GPU计算着色器与线程组执行模型深度解析：从SIMT波前调度到共享内存库冲突优化的GPU并行计算架构

从硬件视角解析GPU SIMT执行模型、线程层级、共享内存Bank冲突优化及内存合并访问策略。

GPU并行计算 2026年09月21日 0 点赞 0 评论 47 浏览

CUDA Warp 编程深度实战：从 Bank Conflict 到 Tensor Core 极限优化

深入NVIDIA GPU Warp级并行机制，从Bank Conflict原理到Tensor Core极限优化，涵盖Shared Memory架构、Warp分支发散、FP16矩阵乘实战案例及NSight Compute性能分析

GPU并行计算 2026年09月29日 0 点赞 0 评论 57 浏览

GPU计算生态深度实战：从CUDA到异构计算的编程模型与工程实践

从GPU硬件架构出发，深入剖析CUDA编程模型的底层原理，探讨内存层次优化、线程调度机制，并对比分析HIP、SYCL等开放生态替代方案，介绍基于CXL和池化的GPU资源调度前沿实践。

GPU并行计算 2026年09月30日 0 点赞 0 评论 45 浏览

推理引擎的编译优化：从计算图到高效执行

深入解析现代推理引擎的编译优化技术：计算图IR、算子融合策略、常量折叠、静态内存规划、CUDA Graph捕获和调度并行，涵盖TensorRT-LLM、vLLM、llama.cpp等主流引擎的编译实践。

编译原理 2026年09月30日 0 点赞 0 评论 51 浏览

vLLM 核心工程深度剖析：PagedAttention 与 KV Cache 调度如何重塑 LLM 推理基础设施

从操作系统内存管理思想切入，深度剖析vLLM PagedAttention核心机制：逻辑块/物理块分离、块表间接寻址、CoW并行采样、前缀缓存哈希索引，以及生产部署调优指南（含与SGLang RadixAttention对比）。

推理部署 2026年09月30日 0 点赞 0 评论 66 浏览

Rust + CUDA IPC：多 GPU 间零拷贝张量通信工程实战

大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递，并通过 Rust FFI 绑定给出完整工程实现，覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。

GPU并行计算 2026年09月30日 0 点赞 0 评论 57 浏览

TensorRT-LLM 深度工程实践：从模型到生产级推理服务

深度剖析 TensorRT-LLM 架构设计哲学、编译-运行时协作模式、跨算子融合、请求调度、KV Cache 管理与并行策略优化，含与 vLLM 对比及生产级部署实践。

推理部署 2026年10月01日 0 点赞 0 评论 72 浏览

Inside FlashAttention-3：面向 Hopper 架构的 IO-Aware 精确注意力机制深度解析

FlashAttention-3 通过深度挖掘 NVIDIA Hopper GPU 的 TMA、异步事务屏障、warp 级矩阵运算等硬件特性，在不牺牲数值精度的前提下将 HBM 访问降低到理论下限的 1/4。本文从算法原理、硬件协同设计、工程实现三个维度揭开 FlashAttention-3 的底层逻辑。

大语言模型 2026年10月02日 0 点赞 0 评论 79 浏览

Linux Kernel HMM 深度工程实战：CPU-GPU 统一虚拟地址空间从原理到驱动实现

深入解析 Linux 内核 HMM 子系统架构，拆解镜像页表、mmu_notifier 回调、migrate_vma 页面迁移协议，提供 GPU 驱动骨架代码。

安全与虚拟化 2026年10月02日 0 点赞 0 评论 60 浏览