大语言模型推理优化全栈实战：从KV Cache到投机解码的深度剖析
深入剖析大语言模型推理优化从KV Cache内存管理到投机解码的全栈技术，涵盖PagedAttention、Flash Attention、GPTQ/AWQ量化、Continuous Batching等核心机制的原理与工程实践。
vLLM
LLM推理部署实战：从模型优化到生产级服务
深入讲解大语言模型推理部署完整技术栈：模型量化、推理框架选型(PagedAttention/TensorRT-LLM)、KV Cache优化、动态批处理及生产级部署架构
大模型推理部署：从vLLM到TensorRT-LLM的高性能服务化
深度解析大模型推理部署的核心技术，涵盖显存优化、推理引擎对比和性能指标体系
2026年深度学习推理加速与模型优化技术全景：从量化压缩到大模型部署实战
2026年深度学习推理加速与模型优化技术全景，涵盖MXFP4量化、FlashAttention-4、MoE加速、SGLang、Specular Decoding等最新技术进展
LLM 推理引擎 Continuous Batching 与 PagedAttention：从 vLLM 原理到生产级部署实战
深度拆解LLM推理引擎核心架构：Continuous Batching迭代级调度原理、PagedAttention虚拟分页KV Cache管理、Chunked Prefill长Prompt处理、Prefix Caching前缀共享、分离式Prefill/Decode架构、生产监控指标与调优指南、投机解码等前沿演进
AI Inference Gateway 的请求调度与动态批处理：从 Continuous Batching 到 vLLM 生产级实现的深度工程实战
深入剖析 vLLM 中 Continuous Batching、Chunked Prefill 以及 Prefill-Decode Disaggregation 等关键技术的实现原理，结合生产级配置与基准数据给出可落地的调优方案。
模型量化实战：从 AWQ/GPTQ 到 NVIDIA FP8 推理的工程部署与性能调优
深度剖析大语言模型推理中的量化技术路线，从 GPTQ、AWQ、SmoothQuant 到 NVIDIA 硬件级 FP8 推理，结合 vLLM 与 TensorRT-LLM 实战部署，给出一套完整的工程方案。
LLM 推理服务生产化：从 POC 到高吞吐低延迟的系统工程实践
本文从 KV Cache 内存管理、Continuous Batching 调度、投机解码加速、模型量化策略四个维度，深入拆解 LLM 推理服务从实验室 Demo 走向千级 QPS 生产系统的工程实践。
AI推理中KV Cache的跨层调度与推测解码协同优化：从vLLM PagedAttention到TensorRT-LLM的工业实践
深入分析AI推理中KV Cache管理与推测解码的协同优化问题，涵盖vLLM PagedAttention的工程代价、推测解码与Prefix Cache的冲突分析、TensorRT-LLM的Context-Aware调度方案，以及一个可落地的Spec-Aware KV Scheduler（SKVS）架构设计与性能基准测试。
AI 推理引擎中的推测解码（Speculative Decoding）：从算法原理到生产级工程实践
深入剖析推测解码的算法原理——拒绝采样与分布等价性证明，覆盖vLLM/SGLang/TensorRT-LLM三大推理引擎的实现对比，分享动态γ调整、多头推测Medusa、温度自适应等生产级工程实战经验
