Rust 实现深度学习推理引擎：从计算图到异构硬件加速
从零构建Rust深度学习推理引擎：张量抽象、计算图拓扑排序、算子融合优化、内存Arena规划、CUDA/Metal多后端调度，以及Flash Attention与PagedAttention的工程实践。
人工智能
从 Transformer 到 Mamba：状态空间模型如何重塑序列计算的效率边界
深度解析 Mamba 状态空间模型的数学基础、硬件感知算法与工程实践，探讨从 Transformer 的二次复杂度到线性复杂度的架构变迁，以及混合架构 Jamba 的最新进展。
CUDA Graph 动态形状捕获与 LLM 推理内存池优化深度实战
深入剖析 CUDA Graph 在 LLM 推理中的录制机制与动态形状挑战，提出 Chunked Prefill + 两阶段内存池 + 参数热更新的生产级优化方案
AI Agent 记忆系统架构深度实战：从向量检索到多模态长期记忆
AI Agent 记忆系统架构深度实战——从分层记忆分类学、向量检索、知识图谱导航到生产级卫生策略与前沿演进
TLA 形式化验证多 Agent 协作协议：从协议规范到工程实践
用TLA 对多Agent协作协议进行形式化验证的实战指南，涵盖MCP资源订阅协议的建模、TLC模型验证、CI/CD集成及Agent系统安全性质分析
Mamba 状态空间模型：从理论到生产级推理的 CUDA 内核优化实战
深入解析Mamba状态空间模型的核心原理与生产级推理部署：从选择性机制的数学基础，到Scan算法的硬件感知设计，再到CUDA/Triton内核优化实战。涵盖Mamba2的SSD理论、状态缓存优化、投机解码兼容性，以及在百万token长序列场景下的性能基准。
图神经网络推理引擎的工程本质：消息传递、稀疏采样与生产部署
深入剖析图神经网络推理引擎的工程挑战：从CSR/COO图存储、Layer-wise邻居采样、稀疏内核优化到DGL/PyG/GraphStorm选型，覆盖GCN/GAT/GraphSAGE内核差异、GPU SpMM优化、端到端推理服务部署及五条生产戒律。
CXL 2.0 内存池化在 AI 推理中的工程实践：冷热分层、动态容量扩展与 vLLM 集成
深入解析 CXL 2.0 内存池化协议栈、Linux 内核 CXL 子系统驱动架构，以及与 vLLM/SGLang 推理框架集成的 KV Cache 冷热三级分层方案。探讨 PagingAttention 与 CXL swap space 扩展的实战工程路径，附实测性能对比与调优建议。
AI Agent通信协议深度实战：MCP与A2A协议的架构演进、安全模型与生产部署
深入剖析AI Agent通信领域两大核心协议——Anthropic的MCP和Google的A2A，涵盖架构设计、安全模型、生产部署实战与未来趋势。
视觉语言模型推理引擎工程实战：从 vLLM 到 SGLang 的架构演进
深入解析视觉语言模型(VLM)推理引擎的核心工程挑战与解决方案，涵盖视觉编码器优化、KV Cache异构管理、两阶段调度策略、CUDA Graph兼容性以及生产部署中的显存建模与长视频Token预算管理。
AI 基础设施的"杰文斯悖论"：为什么效率翻倍，算力消耗反而暴涨？
探索AI推理效率提升反而导致算力总消耗暴涨的杰文斯悖论现象。从FlashAttention、推测解码、KV Cache优化等技术浪潮出发，分析效率引擎如何成为需求膨胀的催化剂，并提供数学建模与工程应对之道。
Inside FlashAttention-3：面向 Hopper 架构的 IO-Aware 精确注意力机制深度解析
FlashAttention-3 通过深度挖掘 NVIDIA Hopper GPU 的 TMA、异步事务屏障、warp 级矩阵运算等硬件特性，在不牺牲数值精度的前提下将 HBM 访问降低到理论下限的 1/4。本文从算法原理、硬件协同设计、工程实现三个维度揭开 FlashAttention-3 的底层逻辑。
AI Agent 的记忆系统：从上下文窗口到长期知识图谱的工程实践
深入拆解 AI Agent 记忆系统的核心挑战、架构设计与实现方案，涵盖向量检索、图谱增强、记忆压缩与遗忘策略等关键技术，构建生产级 Agent 记忆系统。
从零构建自动微分引擎：对偶数、计算图与反向传播的 Rust 深度实战
从零实现一个完整的自动微分引擎，深入理解对偶数、计算图构建、反向模式微分以及高阶导数的实现原理，用 Rust 实战演示 XOR 网络训练。
LLM 推理 Disaggregated Architecture：Prefill-Decode 分离架构深度实战
随着大模型推理规模从单机走向多机，Prefill与Decode阶段的计算特征差异成为系统瓶颈的根本原因。本文深入剖解NVIDIA Dynamo、Mooncake等工业界Disaggregated Inference架构的设计哲学，涵盖KV Cache传输优化、分布式调度算法、负载均衡策略，并结合真实生产环境数据给出工程实践指南。
