SGLang:结构化生成与 RadixAttention 推理引擎深度实战 深度剖析 SGLang 框架如何通过 RadixAttention 前缀缓存和压缩有限状态机(Compressed FSM)两大核心机制,在生产环境中实现 3-10 倍的结构化生成吞吐提升 工程实践 2026年10月06日 0 点赞 0 评论 39 浏览
KV Cache 复用与 RadixAttention:从 vLLM 分页到 SGLang 前缀树的工程跃迁 深入研究 SGLang RadixAttention 数据结构如何通过 Radix Tree 实现 KV Cache 的全局复用,在多轮对话、Few-shot 和 Batch 推理场景下实现 30-60% TTFT 降低与 40%+ Throughput 提升。对比 vLLM PagedAttention 的局限,分析树形索引的工程实现、LRU 驱逐策略与调度优化。 推理部署 2026年10月06日 0 点赞 0 评论 51 浏览
从SGLang RadixAttention到KV Cache复用革命:LLM推理服务的前缀感知调度与缓存池化架构 深度解析SGLang RadixAttention如何通过Radix Tree数据结构实现跨请求的KV Cache前缀复用,涵盖底层实现、调度策略、分布式部署及LMCache/Mooncake等下一代架构 推理部署 2026年10月03日 0 点赞 0 评论 75 浏览