长上下文 LLM 推理的序列并行工程：Ring Attention 与分布式 KV Cache 架构
当LLM上下文窗口膨胀到100K甚至1000K tokens时，O(n²)的注意力计算成为瓶颈。本文深入探讨Ring Attention环形通信算法、DeepSpeed-Ulysses All-to-All替代方案、分布式KV Cache的架构设计，以及它们在现代推理框架中的生产实践。
推理部署
LSM-Tree 存储引擎在 AI 场景下的工程优化：KV Cache 分层存储与向量数据库在线迭代
深入分析LSM-Tree在AI工作负载下的针对性优化策略，包括KV Cache分层存储架构、向量数据库在线迭代方案、布隆过滤器自适应调整，以及生产级调优实战与性能基准对比。
LLM 推理解耦架构：Prefill-Decode 分离的生产级吞吐工程实践
深入分析 LLM 生产中 Prefill-Decode 阶段的计算特征差异导致的资源冲突问题，系统阐述 Disaggregated Inference 架构的拓扑设计、KV Cache 传输协议实现，并给出 Prefill Worker、Decode Worker、传输引擎和智能调度器的完整生产级代码实现。包含四路 A100 实测性能基准与架构演进方向。
视觉语言模型推理引擎工程实战：从 vLLM 到 SGLang 的架构演进
深入解析视觉语言模型(VLM)推理引擎的核心工程挑战与解决方案，涵盖视觉编码器优化、KV Cache异构管理、两阶段调度策略、CUDA Graph兼容性以及生产部署中的显存建模与长视频Token预算管理。
LLM 推理优化深度实战（最终版）
深入拆解现代LLM推理引擎核心技术——从PagedAttention的显存管理、Continuous Batching的吞吐优化，到Speculative Decoding的解码加速，附带完整代码示例和vLLM部署实践。
构建一个有手有脑的 AI Agent：ReAct 推理循环、函数调用与多智能体编排实战
深入剖析生产级 AI Agent 的工程实现：ReAct 推理闭环、function calling 强类型工具契约、分层记忆与主管-Worker 多智能体编排，附可运行 Python 代码与上线四道保险。
万亿参数大模型推理系统架构：从显存墙到多节点部署的实战工程
深入剖析万亿参数大模型推理的系统化工程架构，涵盖TP/PP/EP/DP四维并行策略组合、KV Cache三级存储/H2O淘汰策略、MXFP4/FP8量化协同、vLLM多节点部署实战（含docker-compose配置）、PD分离架构与Ray调度层调优、关键监控指标与自适应batch调度，以及HBM4-PIM/光学互连/联邦推理等前沿方向展望。
AI推理中KV Cache的跨层调度与推测解码协同优化：从vLLM PagedAttention到TensorRT-LLM的工业实践
深入分析AI推理中KV Cache管理与推测解码的协同优化问题，涵盖vLLM PagedAttention的工程代价、推测解码与Prefix Cache的冲突分析、TensorRT-LLM的Context-Aware调度方案，以及一个可落地的Spec-Aware KV Scheduler（SKVS）架构设计与性能基准测试。
Rust 重塑 AI 基础设施：从 PyTorch Rust 绑定到 LLM 推理引擎的系统级优化实战
深入剖析 Rust 在 AI 基础设施中的崛起：从 vLLM Rust 调度器的 PagedAttention 实现到 Candle/Hugging Face ML 框架，再到 Polars 数据处理与 DataFusion 查询引擎，全面覆盖 Rust 在 LLM 推理、数据管道、Python 扩展方面的实战方案。包含完整的代码示例和从 Python 到 Rust 的迁移路径。
LLM 推理引擎内部原理：PagedAttention、Continuous Batching 与现代推理架构剖析
深入剖析现代 LLM 推理引擎的核心机制——PagedAttention 内存管理和 Continuous Batching 调度策略，揭示 vLLM 如何将吞吐量提升 2-4 倍
CUDA Graph 与持久化内核：AI 推理的零启动开销革命
深入解析CUDA Graph与Persistent Kernel技术如何消除AI推理中的GPU启动开销。涵盖动态形状处理、GPU Direct RDMA集成、生产级调度架构设计，以及A100上70%吞吐提升的实测数据。
2026年 AI Agent 工程化实践：从概念验证到生产部署的演进之路
系统梳理2026年AI Agent工程化实践的核心概念、技术演进和落地经验，涵盖从早期RAG到现在多Agent协作的发展脉络，分析当前面临的挑战和未来趋势，为开发者提供从概念验证到生产部署的完整参考。
大语言模型推理引擎深度剖析：从KV Cache内存管理到PagedAttention、投机解码与量化加速
大语言模型推理引擎深度剖析：PagedAttention、投机解码、量化加速完全指南
大模型推理部署全栈指南：vLLM、SGLang、Inference Gateway深度对比
深度解析vLLM(PagedAttention/Continuous Batching)、SGLang(RadixAttention/结构化生成)、Inference Gateway三大推理部署核心技术
CUDA Graph 动态形状捕获与 LLM 推理内存池优化深度实战
深入剖析 CUDA Graph 在 LLM 推理中的录制机制与动态形状挑战，提出 Chunked Prefill + 两阶段内存池 + 参数热更新的生产级优化方案
