模型量化实战：从 AWQ/GPTQ 到 NVIDIA FP8 推理的工程部署与性能调优
深度剖析大语言模型推理中的量化技术路线，从 GPTQ、AWQ、SmoothQuant 到 NVIDIA 硬件级 FP8 推理，结合 vLLM 与 TensorRT-LLM 实战部署，给出一套完整的工程方案。
LLM推理
GGUF 量化格式与 llama.cpp 推理引擎的工程化实现
深度剖析GGUF二进制格式设计与llama.cpp推理引擎的工程实现，涵盖四代量化策略演进（Q4_0→Q5_K_M→Q2_K→IQ系列）、GGML后端抽象层、多GPU Split模式、SIMD微架构优化，以及vLLM对比定位分析。
RWKV-6：当 RNN 学会遗忘——线性注意力与 WKV 核的工程实现
从指数衰减到CUDA kernel，详解如何用 O(1) 内存完成百万 token 的生成式推理。深入RWKV-6的WKV递推机制、通道独立衰减的RNN改造、量化部署与工业级陷阱。
GPU 推理进入「后摩尔」时代：NVIDIA Blackwell 架构全栈深度实战
从硬件微架构出发，深入 FP4/FP6 Tensor Core、第五代 NVLink Switch 和 MIG 增强，结合生产环境部署实测数据，给出 Blackwell 集群的端到端调优方法论。
Intel AMX 矩阵扩展深度实战：CPU 大语言模型推理的高性能工程实践
从硬件架构、编程模型到生产部署，全方位剖析 Intel AMX 矩阵扩展在 CPU LLM 推理中的工程实践。深入讲解 Tile 寄存器、TMUL 指令集、AMX Intrinsics 编程、与 ARM SME 的对比、NUMA 感知调度策略，以及 Granite Rapids 的性能前景。
ARM SME 矩阵扩展：LLM 推理底层算子的深度工程实践
从 ARMv9.2-A 指令集到 Apple M4 与 Ampere Altra 的实矩阵乘法加速路径。深度剖析 SME 的 ZA 存储模型、FMOPA 外积指令、BF16 GEMM 实现、Attention Score 算子优化，以及 llama.cpp 集成实战与性能调优数据。
Rust 实现 LLM 推理引擎深度工程实战：从 Flash Attention 内核到 Continuous Batching
深入拆解如何用 Rust 从零构建 LLM 推理引擎：Flash Attention V2 内核的 SIMD 与 Online Softmax 分块优化、PagedKVCache 的 Copy-on-Write 内存管理、连续批处理调度器的迭代级调度策略。
LLM 推理确定性工程深度实战：从浮点非结合性、Batch 不变性到可复现 Kernel 的全链路解法
拆解 LLM 推理不确定性的三个根因——浮点加法非结合性、split-k 与浮点 atomicAdd 的非确定累积、Continuous Batching 导致的 batch invariance 破缺；给出 PyTorch 复现脚本、Triton batch-invariant kernel、CUB 确定性归约与 CUBLAS_WORKSPACE_CONFIG 配置要点，分析 RL 后训练 on-policy 偏差与合规审计场景，量化 15%-30% 的性能代价并给出生产落地检查清单。
推理引擎的编译优化：从计算图到高效执行
深入解析现代推理引擎的编译优化技术：计算图IR、算子融合策略、常量折叠、静态内存规划、CUDA Graph捕获和调度并行，涵盖TensorRT-LLM、vLLM、llama.cpp等主流引擎的编译实践。
从 PagedAttention 到 Chunked Prefill：大模型推理调度的深度工程实战
本文深入拆解 vLLM 的 PagedAttention 和 Chunked Prefill 两大核心机制，分析其工程实现细节，并结合实战经验探讨显存管理、延迟优化与调度策略的权衡。
