系统内核

io_uring Send-Zero-Copy 与 Registered Buffers 深度实战

深入剖析 io_uring 的 Send-Zero-Copy (IORING_OP_SEND_ZC) 机制,从协议语义、registered buffer 与 provided buffer 的选择策略、多缓冲区协作、错误恢复到生产可用的 ZC 网络服务骨架构建,涵盖内核 6.7+ 的最新特性与实测性能数据。

大模型推理引擎 KV Cache 三级存储架构:从 GPU HBM 到 CPU DRAM 再到 NVMe SSD 的工程实践

深度剖析大推理引擎中 KV Cache 跨 GPU HBM、CPU DRAM、NVMe SSD 三级存储的调度架构与工程实现,涵盖 PagedAttention 的页表管理、CPU 换入换出策略、NVMe KV Cache 引擎设计、预取与淘汰算法,以及 2026 年最新方案对比(vLLM、SGLang、Mooncake、DistServe),附生产级性能基准与优化实践。