Linux Kernel CPUIdle 与 AI 推理服务的功耗-延迟协同调度深度工程实践
深度解析 Linux cpuidle 子系统在 AI 推理网关场景下的功耗-延迟协同。涵盖 menu/TEO/haltpoll governor 对比、C-state 分层策略、eBPF 实时监控、ARM64 PSCI 差异、混合关键性部署实战。
AI推理
ARM SME2 可扩展矩阵扩展：AI推理的下一代硬件加速引擎
ARM SME2（Scalable Matrix Extension 2）是ARMv9.4-A架构的核心扩展，首次引入二维ZTile矩阵寄存器和FMOPA外积累加指令，使通用CPU具备与入门级GPU竞争的INT8/BF16矩阵运算能力。本文深入解析SME2硬件架构、编程模型、LLM推理工程实践以及性能实测数据。
CPU 缓存一致性工程与 AI 推理系统多核瓶颈深度实战
从MESI协议原理出发，深入剖析AI推理多核瓶颈工程本质，涵盖伪共享检测与消除、NUMA感知KV-Cache分配、Per-Core数据结构设计、缓存感知调度等实战优化策略
从零实现扩散模型推理引擎：Rust + wgpu 的 GPU 加速图像生成架构
使用Rust语言从零实现AI扩散模型推理引擎（类Stable Diffusion）的深度实战，涵盖UNet GPU计算内核、Flash Attention等价内存管理、Karras噪声调度WGSL内核、VAE分块解码显存优化、StepArena复用策略、DDIM/DPM-Solver++采样器统一抽象，wgpu多后端（Vulkan/Metal/DX12/WebGPU）性能基准与对比。
RISC-V 向量扩展 RVV 1.0 AI 推理实战：从向量寄存器到端端侧 LLM 加速
RISC-V 向量扩展 RVV 1.0 在 AI 推理优化中的深度实战指南：架构原理、寄存器模型、向量化编程范式，以及从矩阵乘法、激活函数到 LayerNorm 的完整实现与性能基准。结合 SpacemiT K1、平头哥 C920 等真实硬件平台，分析 RVV 与 NPU 协同部署策略。
AI推理引擎 Continuous Batching 深度工程实战：从 PagedAttention 到 SGLang 架构
在大模型推理服务中如何同时实现高吞吐和低延迟？深入分析Continuous Batching核心原理、PagedAttention内存管理创新、RadixAttention前缀缓存，以及vLLM与SGLang的生产架构对比。
异构内存系统架构：从 CXL 3.0 池化到 AI 推断 KV Cache 分层
深入解析 CXL 3.0 池化架构下的 KV Cache 分层存储方案，从协议原理到 vLLM 生产实践的端到端指南
AI 基础设施的"杰文斯悖论"：为什么效率翻倍，算力消耗反而暴涨？
探索AI推理效率提升反而导致算力总消耗暴涨的杰文斯悖论现象。从FlashAttention、推测解码、KV Cache优化等技术浪潮出发，分析效率引擎如何成为需求膨胀的催化剂，并提供数学建模与工程应对之道。
AMD XDNA 架构 Ryzen AI NPU 编程实战：从 AIE 阵列到生产级推理流水线
深度剖析 AMD XDNA 架构的 AIE 数据流微架构设计，通过 XRT C++ API 编写自定义 DPU 内核，构建 ONNX Runtime Vitis AI EP 推理流水线，涵盖 Windows DirectML 与 Linux XRT 双平台实战部署方案，含完整代码示例与性能数据。
ARM SME (Scalable Matrix Extension) 在终端 AI 推理中的架构演进与工程实践
深入剖析 ARMv9-A 架构的 Scalable Matrix Extension (SME)：二维 ZA Tile 存储模型、矩阵外积指令（SMOPA/FMOPA）语义、Linux 内核 ZA 上下文管理，以及如何为 MobileLLM 推理中的 QKV Projection 与 Attention 编写高性能 SME 内核，含完整汇编代码和性能基准对比
