AI推理引擎中的KV-Cache内存管理：从零设计Buddy-Slab混合分配器
深入分析LLM推理引擎中KV-Cache的内存访问模式，从零实现一个Buddy-Slab混合分配器。解决通用分配器在高并发KV-Cache分配场景下的锁竞争、页表碎片和NUMA不友好问题，实测性能优于malloc 13倍。
AI推理
ARM SME2 深度工程实战：从外积指令到 AI 推理内核的零开销调度
ARM SME2 (Scalable Matrix Extension v2) 为 Neoverse 处理器引入了 ZA tile 矩阵存储和外积运算原语。本文基于 Neoverse V2 平台，描述从 intrinsics 到 AI 推理内核的完整实现路径，涵盖 4-bit 量化矩阵乘法、向量长度无关编程、以及与 Apple AMX 的架构对比。
远程证明协议工程深度实战 — 从 TEE 到隐私保护 AI 推理的信任链构建
深入解析远程证明协议的工程挑战与实战经验，涵盖 AMD SEV-SNP、Intel TDX 的证明流程、证书链验证、新鲜性保证、以及在隐私保护 AI 推理中的应用实践。
CUDA Graph 与持久化内核：AI 推理的零启动开销革命
深入解析CUDA Graph与Persistent Kernel技术如何消除AI推理中的GPU启动开销。涵盖动态形状处理、GPU Direct RDMA集成、生产级调度架构设计，以及A100上70%吞吐提升的实测数据。
Linux 内核 CFS 调度器与 uclamp：AI 推理延迟敏感型工作负载的渗透性 QoS 与调度优化完全实践
深入解析 Linux 内核 uclamp（Utilization Clamp）机制在 AI 推理延迟敏感型工作负载中的应用。从 CFS 调度器内核实现到生产实践，涵盖混部场景的 P99/P999 延迟优化完整方案。
AI推理中KV Cache的跨层调度与推测解码协同优化：从vLLM PagedAttention到TensorRT-LLM的工业实践
深入分析AI推理中KV Cache管理与推测解码的协同优化问题，涵盖vLLM PagedAttention的工程代价、推测解码与Prefix Cache的冲突分析、TensorRT-LLM的Context-Aware调度方案，以及一个可落地的Spec-Aware KV Scheduler（SKVS）架构设计与性能基准测试。
NVIDIA Grace Hopper NVLink-C2C 统一内存与 Linux 内核页迁移在 AI 推理工程中的深度实践
从硬件架构、Linux 内核页迁移机制、CUDA统一内存编程模型到AI推理场景实战优化，完整解析 NVIDIA Grace Hopper NVLink-C2C 统一内存技术栈。涵盖页迁移路径、访问计数器、内存建议API、预取策略、CUDA Graph整合、KV Cache零拷贝共享及性能基准测试。
Linux 内核 KSM 内存去重与 AI 推理 KV Cache 共享：从页面扫描算法到生产级部署实战
深度解析 Linux 内核 KSM 子系统的哈希树扫描算法、写时复制机制与红黑树架构，结合 AI 推理场景下 Transformer 模型 KV Cache 的内存冗余问题，提供从 madvise 系统调用到 vLLM 共享 KV Cache 的完整工程实践路径，包含生产环境调优参数基准与性能对比数据。
万亿参数大模型推理系统架构：从显存墙到多节点部署的实战工程
深入剖析万亿参数大模型推理的系统化工程架构，涵盖TP/PP/EP/DP四维并行策略组合、KV Cache三级存储/H2O淘汰策略、MXFP4/FP8量化协同、vLLM多节点部署实战（含docker-compose配置）、PD分离架构与Ray调度层调优、关键监控指标与自适应batch调度，以及HBM4-PIM/光学互连/联邦推理等前沿方向展望。
WebGPU 通用计算实战：从 Compute Shader 到浏览器端本地 AI 推理
从零编写分块矩阵乘法 Compute Shader，深入 WebGPU 内存层次与 workgroup 共享内存，并落地到浏览器端本地 AI 推理的生产级实战。
