WebNN：浏览器原生 AI 推理的标准化之路与工程实战
从WebGL到WebGPU再到WebNN，浏览器AI推理的标准化演进全解析，包含端到端工程实战示例、多后端性能对比、首帧延迟优化与降级策略。
AI推理
近数据计算架构：Linux 块层与 NVMe 计算存储协议深度解析
> **摘要**：当 AI 集群的数据搬运开销超过计算本身，传统"CPU 中心"架构已触及内存墙与功耗墙。本文从 Linux 块层子系统出发，深入剖析 NVMe 计算存储（Computational Storage）协议栈的演进路径，结合 io_uring 与 SPDK 实战案例，揭示近数据计算（Near-Data Processing）如何从论文走向生产。
Rust-PyTorch 零拷贝张量桥接与异步推理管线工程实战
深入剖析通过Rust FFI桥接PyTorch C++后端实现零拷贝张量传递与异步推理管线的工程方案，包含混合调度器设计、CUDA上下文管理、eBPF延迟追踪等实战经验，以及与Triton Inference Server的性能对比数据。
CUDA Graph 捕获与重放：AI 推理 Kernel Launch 优化的深度实战
从kernel launch瓶颈分析到CUDA Graph的捕获、实例化、重放机制，结合TensorRT与vLLM的工程实践，剖析动态形状处理、内存池管理与性能调优的完整方案。
AI Inference Gateway 生产级工程实战：从请求路由到多模型编排
在AI推理服务落地的过程中，真正决定系统可靠性的往往是推理网关的设计。本文基于生产环境实战经验，从零构建一个AI推理网关，涵盖语义路由、优先级调度、电路熔断、可观测性等核心模块。
SGLang：结构化生成与 RadixAttention 推理引擎深度实战
深度剖析 SGLang 框架如何通过 RadixAttention 前缀缓存和压缩有限状态机（Compressed FSM）两大核心机制，在生产环境中实现 3-10 倍的结构化生成吞吐提升
Linux RT Group Scheduling 与 cgroup CPU 带宽控制：构建确定性 AI 推理延迟保障的工程实战
深入 Linux RT 组调度与 cgroup v2 CPU bandwidth 控制器，提供 AI 推理服务的确定性延迟保障方案，涵盖 cpu.max 配置、NUMA 感知隔离、SCHED_DEADLINE 准入控制、Intel RDT/ARM MPAM 三级防护与生产陷阱规避。
AI 推理服务的 Huge Pages 工程实战——从 THP 陷阱到 PMD 大页调优与 KSM 协同
深入剖析 Linux Transparent Huge Pages 在 AI 推理服务中的尾延迟陷阱，从 TLB Miss 根源出发，详解 khugepaged 工作机制、四种 defrag 策略、GPU 显存映射冲突，并提供静态 hugetlbfs + madvise 精准标记的生产级调优方案。含 BPF 追踪脚本与决策树。
Rust Portable SIMD 生产级 AI 推理实战：从 Token 评分到 KV-Cache 管理
深入探讨 Rust 的 std::simd (Portable SIMD) 标准化 API 在 LLM 推理引擎后处理管线中的实战优化，涵盖 Softmax、Top-K/Top-P 采样、Attention Score 处理、KV-Cache 内存管理，含完整代码示例与性能基准。
Linux 内核 SCHED_DEADLINE 深度实战：从 EDF 算法到 AI 推理延迟 SLA
SCHED_DEADLINE 作为 Linux 内核唯一基于全局最早截止时间优先（EDF）+ 带宽隔离（CBS）的实时调度类，正在成为 AI 推理服务、实时音视频处理的首选调度策略。本文从内核源码出发解析 CBS 算法实现与生产调优方法论。
