GPU编程

LLM 推理确定性工程深度实战:从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法

拆解 LLM 推理不确定性的三个根因——浮点加法非结合性、split-k 与浮点 atomicAdd 的非确定累积、Continuous Batching 导致的 batch invariance 破缺;给出 PyTorch 复现脚本、Triton batch-invariant kernel、CUB 确定性归约与 CUBLAS_WORKSPACE_CONFIG 配置要点,分析 RL 后训练 on-policy 偏差与合规审计场景,量化 15%-30% 的性能代价并给出生产落地检查清单。

WebGPU Subgroup 操作与 SIMT 性能优化实战:从 shuffle 到 ballot

WebGPU 的 subgroup 原语为 Web 平台带来了 GPU 级别的 SIMD 通信能力。本文深入讲解 subgroup 的核心操作(shuffle/ballot/reduction),并通过 4 个实战场景(高效归约、warp 级前缀和、分支优化、GEMM 分块策略)展示如何利用 subgroup 实现 workgroup 共享内存 3-12x 的性能突破。包含完整 WGSL 实现和 Chrome/Edge 的性能基准数据。

SYCL/oneAPI 异构计算编程模型:从 CUDA 锁定到跨平台 GPU 编程的实战突围

深入解析 SYCL 2020 标准的核心抽象(buffer/accessor、ND-Range、USM),对比 CUDA 生态的差异与优势,并通过生产级推理引擎集成案例展示如何在 NVIDIA/AMD/Intel 三大平台上用一套代码完成高性能 GEMM 计算。包含 sub-group shuffle、双队列 pipeline、AdaptiveCpp 单一源码多后端的实战技巧,以及 ResNet-50 跨平台性能基准数据。

Rust + CUDA IPC:多 GPU 间零拷贝张量通信工程实战

大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递,并通过 Rust FFI 绑定给出完整工程实现,覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。