CUDA
  1. 首页
  2. CUDA

列表

LLM 推理确定性工程深度实战：从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法

LLM 推理确定性工程深度实战：从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法

拆解 LLM 推理不确定性的三个根因——浮点加法非结合性、split-k 与浮点 atomicAdd 的非确定累积、Continuous Batching 导致的 batch invariance 破缺；给出 PyTorch 复现脚本、Triton batch-invariant kernel、CUB 确定性归约与 CUBLAS_WORKSPACE_CONFIG 配置要点，分析 RL 后训练 on-policy 偏差与合规审计场景，量化 15%-30% 的性能代价并给出生产落地检查清单。
Linux内核 2026年10月04日
SYCL/oneAPI 异构计算编程模型：从 CUDA 锁定到跨平台 GPU 编程的实战突围

SYCL/oneAPI 异构计算编程模型：从 CUDA 锁定到跨平台 GPU 编程的实战突围

深入解析 SYCL 2020 标准的核心抽象（buffer/accessor、ND-Range、USM），对比 CUDA 生态的差异与优势，并通过生产级推理引擎集成案例展示如何在 NVIDIA/AMD/Intel 三大平台上用一套代码完成高性能 GEMM 计算。包含 sub-group shuffle、双队列 pipeline、AdaptiveCpp 单一源码多后端的实战技巧，以及 ResNet-50 跨平台性能基准数据。
GPU并行计算 2026年10月02日
Rust + CUDA IPC：多 GPU 间零拷贝张量通信工程实战

Rust + CUDA IPC：多 GPU 间零拷贝张量通信工程实战

大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递，并通过 Rust FFI 绑定给出完整工程实现，覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。
GPU并行计算 2026年09月30日
PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo FX Graph 到 TorchInductor Triton CodeGen 的完全工程指南

PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo FX Graph 到 TorchInductor Triton CodeGen 的完全工程指南

PyTorch 2.0 Compiler 深度剖析：从 TorchDynamo Python 字节码拦截、FX Graph 中间表示捕获、AOTAutograd 自动微分分解、TorchInductor Triton CodeGen GPU 内核代码生成、算子融合与内存优化、CUDA Graph 捕获、动态形状支持、分布式并行编译、到生产级部署与性能基准测试的完整工程指南。
深度学习 2026年09月20日