TensorRT-LLM 深度工程实践：从模型到生产级推理服务
深度剖析 TensorRT-LLM 架构设计哲学、编译-运行时协作模式、跨算子融合、请求调度、KV Cache 管理与并行策略优化，含与 vLLM 对比及生产级部署实践。
推理部署
2026年LLM推理优化技术全解析：从KV Cache革新到推测解码量产
深度解析2026年LLM推理优化技术全景：KV Cache革新、推测解码量产、混合精度推理突破与端侧推理进展。
GPU Direct Storage：GPU 直接存储访问在 AI 推理数据管道中的工程实践
GDS让GPU显存直接与NVMe控制器建立DMA链路。深入剖析nvidia-fs驱动架构、cuFile API异步批量提交、GPU内存注册双缓冲策略，结合PyTorch容器化部署给出性能调优参数矩阵。
从SGLang RadixAttention到KV Cache复用革命：LLM推理服务的前缀感知调度与缓存池化架构
深度解析SGLang RadixAttention如何通过Radix Tree数据结构实现跨请求的KV Cache前缀复用，涵盖底层实现、调度策略、分布式部署及LMCache/Mooncake等下一代架构
NVIDIA TensorRT-LLM 深度工程实战：从图编译到千卡集群的 LLM 推理系统设计
深入剖析 NVIDIA TensorRT-LLM 的架构设计与生产实践，从底层图编译优化到多机多机推理的完整方案，涵盖算子融合、CUDA Graph 捕获、Paged KV Cache、FP8 量化及 Disaggregated Serving 等核心技术，附完整代码示例。
大模型蒸馏与小型化深度工程实战：从 Logit、中间特征对齐到合成数据流水线的生产级全解
拆解大模型蒸馏的四类知识表示（Logit/特征/关系/偏好）、温度与梯度 T^2 刻度的真实数学、中间层维度不匹配的投影对齐与关系蒸馏、在线自蒸馏的算力权衡，以及决定蒸馏上限的合成数据流水线：种子分层、拒绝采样验证器、MinHash 去重、难度课程化与评测去污染，附 PyTorch 可运行代码与生产陷阱清单。
LLM 推理 Disaggregated Architecture：Prefill-Decode 分离架构深度实战
随着大模型推理规模从单机走向多机，Prefill与Decode阶段的计算特征差异成为系统瓶颈的根本原因。本文深入剖解NVIDIA Dynamo、Mooncake等工业界Disaggregated Inference架构的设计哲学，涵盖KV Cache传输优化、分布式调度算法、负载均衡策略，并结合真实生产环境数据给出工程实践指南。
Medusa多头投机解码：LLM推理加速的工程演进与深度实战
从经典Speculative Decoding理论出发，深入Medusa多头投机架构的工程实现，涵盖Draft Model选择策略、树形验证结构、投机宽度动态调节、Medusa-2与LayerSkip变体，以及vLLM/TensorRT-LLM生产集成
解锁长上下文：大语言模型百万Token级推理的工程实践与优化全景
从生产级部署的深度视角，拆解百万Token级长上下文推理的关键技术栈：位置编码外推（PI/NTK/YaRN）、KV Cache显存管理与FP8量化、Flash Attention与Ring Attention分布式计算、稀疏注意力与Mamba替代方案、vLLM调度优化与并行策略选择。包含完整代码示例与2025-2026最新进展。
LLM 推理系统韧性工程：PD 分离架构下 KV Cache 热迁移与分级降级实战
随着 LLM 推理服务进入大规模生产部署阶段，系统韧性成为比峰值吞吐更关键的工程指标。本文深入剖析 Prefill-Decode 分离架构下的 KV Cache 热迁移、分级降级策略和故障恢复机制，给出可直接应用于生产环境的工程方案和实测数据。
MoE大模型专家并行与动态路由优化——从DeepSeek-V3到生产级推理架构
深入解析MoE稀疏激活架构下的Expert Parallelism设计，从原理推导到生产实战，涵盖Top-K Gating、Auxiliary Loss、All-to-All通信优化、Expert Offloading以及DeepSeek-V3的Aux-Free负载均衡策略。
2026年大语言模型推理优化与生产部署：从KV Cache管理到vLLM高并发服务的完整工程指南
2026年大模型推理优化完整工程指南：从KV Cache管理、PagedAttention机制、模型量化压缩到vLLM/SGLang推理引擎实战，涵盖FlashAttention加速、连续批处理、分布式并行推理、投机解码等核心技术，助力构建高可用、低延迟的生产级推理服务。
LLM 推理优化（Batching、Cache、Speculative Decoding 与验证）
总结大模型推理的性能优化方法，包括批处理、缓存与推测解码，并提供可验证的压测与观测路径。
GraphRAG：图结构增强检索与关系推理
以图结构作为知识组织与检索基础，结合语义检索与关系推理提升长链路问题的答案质量与可解释性。
