GGUF 量化格式与 llama.cpp 推理引擎的工程化实现
深度剖析GGUF二进制格式设计与llama.cpp推理引擎的工程实现，涵盖四代量化策略演进（Q4_0→Q5_K_M→Q2_K→IQ系列）、GGML后端抽象层、多GPU Split模式、SIMD微架构优化，以及vLLM对比定位分析。
LLM推理
模型量化实战：从 AWQ/GPTQ 到 NVIDIA FP8 推理的工程部署与性能调优
深度剖析大语言模型推理中的量化技术路线，从 GPTQ、AWQ、SmoothQuant 到 NVIDIA 硬件级 FP8 推理，结合 vLLM 与 TensorRT-LLM 实战部署，给出一套完整的工程方案。
ARM SME 矩阵扩展：LLM 推理底层算子的深度工程实践
从 ARMv9.2-A 指令集到 Apple M4 与 Ampere Altra 的实矩阵乘法加速路径。深度剖析 SME 的 ZA 存储模型、FMOPA 外积指令、BF16 GEMM 实现、Attention Score 算子优化，以及 llama.cpp 集成实战与性能调优数据。
Intel AMX 矩阵扩展深度实战：CPU 大语言模型推理的高性能工程实践
从硬件架构、编程模型到生产部署，全方位剖析 Intel AMX 矩阵扩展在 CPU LLM 推理中的工程实践。深入讲解 Tile 寄存器、TMUL 指令集、AMX Intrinsics 编程、与 ARM SME 的对比、NUMA 感知调度策略，以及 Granite Rapids 的性能前景。
GPU 推理进入「后摩尔」时代：NVIDIA Blackwell 架构全栈深度实战
从硬件微架构出发，深入 FP4/FP6 Tensor Core、第五代 NVLink Switch 和 MIG 增强，结合生产环境部署实测数据，给出 Blackwell 集群的端到端调优方法论。
RWKV-6：当 RNN 学会遗忘——线性注意力与 WKV 核的工程实现
从指数衰减到CUDA kernel，详解如何用 O(1) 内存完成百万 token 的生成式推理。深入RWKV-6的WKV递推机制、通道独立衰减的RNN改造、量化部署与工业级陷阱。
KV Cache 量化与压缩工程实战：从 FP16 到 FP8/INT8/INT4，精度、速度、显存的黄金三角
深入解析 LLM 推理系统中 KV Cache 的量化与压缩工程实战，从 FP16 到 FP8/INT8/INT4 的精度-显存-速度权衡，涵盖 Per-token 量化、GQA 压缩、LazyKV 淘汰、Prefix Sharing、Delta 压缩等前沿技术，附 SGLang 生产级配置与实测数据。
LLM 推理系统韧性工程：PD 分离架构下 KV Cache 热迁移与分级降级实战
随着 LLM 推理服务进入大规模生产部署阶段，系统韧性成为比峰值吞吐更关键的工程指标。本文深入剖析 Prefill-Decode 分离架构下的 KV Cache 热迁移、分级降级策略和故障恢复机制，给出可直接应用于生产环境的工程方案和实测数据。
从GPU内核到Token延迟：eBPF在LLM推理可观测性中的工程实践
如何利用eBPF从内核态穿透到GPU驱动层，构建LLM推理全链路可观测性体系。涵盖CUDA kernel追踪、TTFT/TPOT指标分析、多租户GPU争用分析及实战案例。
LLM 推理确定性工程深度实战：从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法
拆解 LLM 推理不确定性的三个根因——浮点加法非结合性、split-k 与浮点 atomicAdd 的非确定累积、Continuous Batching 导致的 batch invariance 破缺；给出 PyTorch 复现脚本、Triton batch-invariant kernel、CUB 确定性归约与 CUBLAS_WORKSPACE_CONFIG 配置要点，分析 RL 后训练 on-policy 偏差与合规审计场景，量化 15%-30% 的性能代价并给出生产落地检查清单。
