LLM推理优化与部署实战：从vLLM到TensorRT-LLM的生产级性能调优指南
从vLLM到TensorRT-LLM，深入讲解LLM推理优化的核心技术：PagedAttention、Continuous Batching、投机解码、量化加速。包含Docker/K8s部署方案、性能基准对比与生产级监控配置。
GPU优化
vLLM 核心工程深度剖析：PagedAttention 与 KV Cache 调度如何重塑 LLM 推理基础设施
从操作系统内存管理思想切入，深度剖析vLLM PagedAttention核心机制：逻辑块/物理块分离、块表间接寻址、CoW并行采样、前缀缓存哈希索引，以及生产部署调优指南（含与SGLang RadixAttention对比）。
从 PagedAttention 到 Chunked Prefill：大模型推理调度的深度工程实战
本文深入拆解 vLLM 的 PagedAttention 和 Chunked Prefill 两大核心机制，分析其工程实现细节，并结合实战经验探讨显存管理、延迟优化与调度策略的权衡。
视觉语言模型推理引擎工程实战：从 vLLM 到 SGLang 的架构演进
深入解析视觉语言模型(VLM)推理引擎的核心工程挑战与解决方案，涵盖视觉编码器优化、KV Cache异构管理、两阶段调度策略、CUDA Graph兼容性以及生产部署中的显存建模与长视频Token预算管理。
Mamba 状态空间模型：从理论到生产级推理的 CUDA 内核优化实战
深入解析Mamba状态空间模型的核心原理与生产级推理部署：从选择性机制的数学基础，到Scan算法的硬件感知设计，再到CUDA/Triton内核优化实战。涵盖Mamba2的SSD理论、状态缓存优化、投机解码兼容性，以及在百万token长序列场景下的性能基准。
CUDA 内核优化实战：从内存合并访问到 Warp 级原语与 CuTile 抽象的深度工程指南
本文系统性地讲解 CUDA 内核优化的核心方法论与工程实践，从全局内存合并访问、Shared Memory Bank Conflict 消除、Warp 级原语规约、线程占用率计算，到现代 CuTile 抽象与 Tensor Memory Accelerator 的使用，配合完整的代码示例与 Nsight Compute 性能分析数据。
DeepSeek时代: MoE推理系统的工程实战
深入剖析DeepSeek-V3的MLA注意力机制与细粒度MoE专家并行架构，涵盖KV Cache压缩、AlltoAll通信优化、显存预算分配等工程实战细节
AI推理中KV Cache的跨层调度与推测解码协同优化：从vLLM PagedAttention到TensorRT-LLM的工业实践
深入分析AI推理中KV Cache管理与推测解码的协同优化问题，涵盖vLLM PagedAttention的工程代价、推测解码与Prefix Cache的冲突分析、TensorRT-LLM的Context-Aware调度方案，以及一个可落地的Spec-Aware KV Scheduler（SKVS）架构设计与性能基准测试。
