Mamba 状态空间模型:从理论到生产级推理的 CUDA 内核优化实战 深入解析Mamba状态空间模型的核心原理与生产级推理部署:从选择性机制的数学基础,到Scan算法的硬件感知设计,再到CUDA/Triton内核优化实战。涵盖Mamba2的SSD理论、状态缓存优化、投机解码兼容性,以及在百万token长序列场景下的性能基准。 推理部署 2026年10月02日 0 点赞 0 评论 60 浏览
Mamba 选择性状态空间模型:亚二次复杂度大语言模型推理工程实践 从S4到Mamba的架构演进,深入剖析选择性状态空间的数学本质、硬件感知并行扫描实现,以及在大规模语言模型推理中的工程部署实践。 算法与数据结构 2026年10月06日 0 点赞 0 评论 28 浏览
异构推理引擎的统一调度:在单一服务中同时运行 Transformer、SSM 与 MoE 模型的工程实践 深入拆解异构推理统一调度的核心挑战:在单一服务中同时部署和管理 Transformer、Mamba/RWKV 等 SSM 模型、MoE 模型。涵盖计算特性分析、Rust异步调度器实现、GPU显存统一管理及生产级性能基准。 深度学习 2026年10月07日 0 点赞 0 评论 28 浏览