CUDA 内核优化实战：从内存合并访问到 Warp 级原语与 CuTile 抽象的深度工程指南
本文系统性地讲解 CUDA 内核优化的核心方法论与工程实践，从全局内存合并访问、Shared Memory Bank Conflict 消除、Warp 级原语规约、线程占用率计算，到现代 CuTile 抽象与 Tensor Memory Accelerator 的使用，配合完整的代码示例与 Nsight Compute 性能分析数据。
CUDA
PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo FX Graph 到 TorchInductor Triton CodeGen 的完全工程指南
PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo Python 字节码拦截、FX Graph 中间表示捕获、AOTAutograd 自动微分分解、TorchInductor Triton CodeGen GPU 内核代码生成、算子融合与内存优化、CUDA Graph 捕获、动态形状支持、分布式并行编译、到生产级部署与性能基准测试的完整工程指南。
CUDA Warp 编程深度实战：从 Bank Conflict 到 Tensor Core 极限优化
深入NVIDIA GPU Warp级并行机制，从Bank Conflict原理到Tensor Core极限优化，涵盖Shared Memory架构、Warp分支发散、FP16矩阵乘实战案例及NSight Compute性能分析
Rust + CUDA IPC：多 GPU 间零拷贝张量通信工程实战
大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递，并通过 Rust FFI 绑定给出完整工程实现，覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。
NVIDIA Grace Hopper NVLink-C2C 统一内存与 Linux 内核页迁移在 AI 推理工程中的深度实践
从硬件架构、Linux 内核页迁移机制、CUDA统一内存编程模型到AI推理场景实战优化，完整解析 NVIDIA Grace Hopper NVLink-C2C 统一内存技术栈。涵盖页迁移路径、访问计数器、内存建议API、预取策略、CUDA Graph整合、KV Cache零拷贝共享及性能基准测试。
CUDA Graph 与持久化内核：AI 推理的零启动开销革命
深入解析CUDA Graph与Persistent Kernel技术如何消除AI推理中的GPU启动开销。涵盖动态形状处理、GPU Direct RDMA集成、生产级调度架构设计，以及A100上70%吞吐提升的实测数据。
CUDA Graph 动态形状捕获与 LLM 推理内存池优化深度实战
深入剖析 CUDA Graph 在 LLM 推理中的录制机制与动态形状挑战，提出 Chunked Prefill + 两阶段内存池 + 参数热更新的生产级优化方案
Mamba状态空间模型的硬件感知推理优化：从选择性扫描到并行前缀和
深入分析Mamba架构选择性扫描的GPU硬件感知优化策略，包括并行前缀和、CUDA Kernel Fusion、FlashAttention风格IO-Aware Tiling等全链路优化方案，实测14倍加速。
eBPF 在 GPU 显存监控与 NVIDIA MIG 动态重平衡中的工程实践
在多租户AI推理集群中，利用eBPF运行时监控GPU显存压力，结合NVIDIA MIG分区动态重平衡，实现显存利用率从40%提升至75% 的工程实践深度指南
推理引擎的编译优化：从计算图到高效执行
深入解析现代推理引擎的编译优化技术：计算图IR、算子融合策略、常量折叠、静态内存规划、CUDA Graph捕获和调度并行，涵盖TensorRT-LLM、vLLM、llama.cpp等主流引擎的编译实践。
