CPU 缓存一致性工程与 AI 推理系统多核瓶颈深度实战
从MESI协议原理出发，深入剖析AI推理多核瓶颈工程本质，涵盖伪共享检测与消除、NUMA感知KV-Cache分配、Per-Core数据结构设计、缓存感知调度等实战优化策略
vLLM
LLM 推理服务生产化：从 POC 到高吞吐低延迟的系统工程实践
本文从 KV Cache 内存管理、Continuous Batching 调度、投机解码加速、模型量化策略四个维度，深入拆解 LLM 推理服务从实验室 Demo 走向千级 QPS 生产系统的工程实践。
AI Inference Gateway 的请求调度与动态批处理：从 Continuous Batching 到 vLLM 生产级实现的深度工程实战
深入剖析 vLLM 中 Continuous Batching、Chunked Prefill 以及 Prefill-Decode Disaggregation 等关键技术的实现原理，结合生产级配置与基准数据给出可落地的调优方案。
模型量化实战：从 AWQ/GPTQ 到 NVIDIA FP8 推理的工程部署与性能调优
深度剖析大语言模型推理中的量化技术路线，从 GPTQ、AWQ、SmoothQuant 到 NVIDIA 硬件级 FP8 推理，结合 vLLM 与 TensorRT-LLM 实战部署，给出一套完整的工程方案。
LLM 推理引擎 Continuous Batching 与 PagedAttention：从 vLLM 原理到生产级部署实战
深度拆解LLM推理引擎核心架构：Continuous Batching迭代级调度原理、PagedAttention虚拟分页KV Cache管理、Chunked Prefill长Prompt处理、Prefix Caching前缀共享、分离式Prefill/Decode架构、生产监控指标与调优指南、投机解码等前沿演进
大模型推理部署：从vLLM到TensorRT-LLM的高性能服务化
深度解析大模型推理部署的核心技术，涵盖显存优化、推理引擎对比和性能指标体系
2026年深度学习推理加速与模型优化技术全景：从量化压缩到大模型部署实战
2026年深度学习推理加速与模型优化技术全景，涵盖MXFP4量化、FlashAttention-4、MoE加速、SGLang、Specular Decoding等最新技术进展
大语言模型推理优化全栈实战：从KV Cache到投机解码的深度剖析
深入剖析大语言模型推理优化从KV Cache内存管理到投机解码的全栈技术，涵盖PagedAttention、Flash Attention、GPTQ/AWQ量化、Continuous Batching等核心机制的原理与工程实践。
LLM推理部署实战：从模型优化到生产级服务
深入讲解大语言模型推理部署完整技术栈：模型量化、推理框架选型(PagedAttention/TensorRT-LLM)、KV Cache优化、动态批处理及生产级部署架构
