打破自回归瓶颈：Speculative Decoding 推测解码的系统工程与生产优化实战 Speculative Decoding 通过小模型草稿+大模型验证的无损加速范式，将 LLM 推理延迟降低2-4×。本文深入拆解核心算法、调度策略与 KV Cache 管理，分析 Medusa、Eagle 与自回归草稿模型的工程取舍与生产部署最佳实践。 大语言模型 2026年10月03日 0 点赞 0 评论 67 浏览
Medusa多头投机解码：LLM推理加速的工程演进与深度实战 从经典Speculative Decoding理论出发，深入Medusa多头投机架构的工程实现，涵盖Draft Model选择策略、树形验证结构、投机宽度动态调节、Medusa-2与LayerSkip变体，以及vLLM/TensorRT-LLM生产集成 推理部署 2026年09月30日 0 点赞 0 评论 80 浏览
