AI推理引擎中的KV-Cache内存管理：从零设计Buddy-Slab混合分配器
深入分析LLM推理引擎中KV-Cache的内存访问模式，从零实现一个Buddy-Slab混合分配器。解决通用分配器在高并发KV-Cache分配场景下的锁竞争、页表碎片和NUMA不友好问题，实测性能优于malloc 13倍。
AI推理
io_uring task work 与 RT 优先级继承的深度工程分析：AI 推理网关隐性优先级反转的诊断与治理
深度分析 io_uring task work 与 Linux RT 优先级继承机制交互时引发的隐性优先级反转问题，提供完整诊断方法、实战代码和治理方案
TVM TensorIR 自动化算子优化工程实践：从调度原语到硬件原生性能
深入解析Apache TVM的TensorIR调度原语体系和AutoTIR自动调优机制，涵盖循环变换、内存层次调度、rfactor归约分解等核心优化原语，以及在FlashAttention等真实推理场景中的工程落地与性能数据。
ARM SME (Scalable Matrix Extension) 在终端 AI 推理中的架构演进与工程实践
深入剖析 ARMv9-A 架构的 Scalable Matrix Extension (SME)：二维 ZA Tile 存储模型、矩阵外积指令（SMOPA/FMOPA）语义、Linux 内核 ZA 上下文管理，以及如何为 MobileLLM 推理中的 QKV Projection 与 Attention 编写高性能 SME 内核，含完整汇编代码和性能基准对比
Linux 内核 io_uring 与 eBPF 协同在 AI 推理网关中的可编程数据面工程实践
在 AI 推理服务中，网关层承担着请求路由、负载均衡、流量控制和可观测性采集等关键职责。本文深入探讨如何通过 io_uring 的异步 IO 机制与 eBPF 的可编程内核执行能力协同工作，构建一个高性能、可观测、可编程的 AI 推理网关数据面
GPU Direct Storage：GPU 直接存储访问在 AI 推理数据管道中的工程实践
GDS让GPU显存直接与NVMe控制器建立DMA链路。深入剖析nvidia-fs驱动架构、cuFile API异步批量提交、GPU内存注册双缓冲策略，结合PyTorch容器化部署给出性能调优参数矩阵。
Linux 内核 PREEMPT_RT 在 AI 推理低延迟路径中的工程实践——从抢占延迟到确定性响应
深入分析 Linux PREEMPT_RT 实时抢占补丁的核心机制，展示如何将其应用于 AI 推理服务关键路径，实现微秒级的确定性响应，解决 P99/P99.9 长尾延迟问题。
AI 推理服务网格：多模型混合推理的架构设计与工程实践
深入拆解AI推理服务网格核心架构：Prefill/Decode分离部署、KV Cache统一内存池设计、多模型混合推理编排调度、自适应限流与模型热更新实战
Rust Portable SIMD 生产级 AI 推理实战：从 Token 评分到 KV-Cache 管理
深入探讨 Rust 的 std::simd (Portable SIMD) 标准化 API 在 LLM 推理引擎后处理管线中的实战优化，涵盖 Softmax、Top-K/Top-P 采样、Attention Score 处理、KV-Cache 内存管理，含完整代码示例与性能基准。
用 Rust + tokio 构建 AI Inference 路由层 — 统一 API、KV Cache 感知调度与生产级负载均衡
深度实战：用 Rust + tokio 构建高性能 AI Inference 路由层，揭秘 KV Cache 感知调度、Streaming 背压控制、熔断器与 OpenTelemetry 全链路可观测性
