RWKV-6：当 RNN 学会遗忘——线性注意力与 WKV 核的工程实现
从指数衰减到CUDA kernel，详解如何用 O(1) 内存完成百万 token 的生成式推理。深入RWKV-6的WKV递推机制、通道独立衰减的RNN改造、量化部署与工业级陷阱。
线性注意力
非Transformer架构崛起——RWKV-6、Mamba与线性注意力机制如何重塑2026大模型格局
2026年，以RWKV-6、Mamba系列为代表的状态空间模型（SSM）和线性注意力架构在长序列建模任务上展现出与Transformer相媲美的性能，同时推理效率提升数倍。本文深入分析非Transformer架构的技术原理、生态进展及对大模型产业格局的深远影响。
Mamba 状态空间模型：从理论到生产级推理的 CUDA 内核优化实战
深入解析Mamba状态空间模型的核心原理与生产级推理部署：从选择性机制的数学基础，到Scan算法的硬件感知设计，再到CUDA/Triton内核优化实战。涵盖Mamba2的SSD理论、状态缓存优化、投机解码兼容性，以及在百万token长序列场景下的性能基准。
