GPU编程

Rust + CUDA IPC:多 GPU 间零拷贝张量通信工程实战

大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递,并通过 Rust FFI 绑定给出完整工程实现,覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。

SYCL/oneAPI 异构计算编程模型:从 CUDA 锁定到跨平台 GPU 编程的实战突围

深入解析 SYCL 2020 标准的核心抽象(buffer/accessor、ND-Range、USM),对比 CUDA 生态的差异与优势,并通过生产级推理引擎集成案例展示如何在 NVIDIA/AMD/Intel 三大平台上用一套代码完成高性能 GEMM 计算。包含 sub-group shuffle、双队列 pipeline、AdaptiveCpp 单一源码多后端的实战技巧,以及 ResNet-50 跨平台性能基准数据。

LLM 推理确定性工程深度实战:从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法

拆解 LLM 推理不确定性的三个根因——浮点加法非结合性、split-k 与浮点 atomicAdd 的非确定累积、Continuous Batching 导致的 batch invariance 破缺;给出 PyTorch 复现脚本、Triton batch-invariant kernel、CUB 确定性归约与 CUBLAS_WORKSPACE_CONFIG 配置要点,分析 RL 后训练 on-policy 偏差与合规审计场景,量化 15%-30% 的性能代价并给出生产落地检查清单。

WebGPU 下一代 GPU 编程接口深度实战:从 WGSL 着色器语言到计算管线、并行图像处理与生产级 Web 端 ML 推理部署的完全工程指南

WebGPU 作为 WebGL 的下一代替代标准,引入了现代 GPU 编程范式的全部能力:显式资源管理、计算着色器、Bindless 资源模型、显式同步与零开销抽象。本文从为什么需要 WebGPU 出发,系统讲解 WGSL 着色器语言、设备与资源管理、渲染管线与间接绘制、并行计算管线(工作组/共享内存/规约算法)、图像卷积与 CV 算子实战、ORT-Web/Stable Diffusion WebGPU 端推理部署,以及性能调优与可观测性,最后展望 Subgroups、Bindless、ML GPU 后端等标准演进,是 Web 端 GPU 编程从理论到生产部署的完全指南。