多模型协同推理架构：请求编排引擎与异构调度深度工程
深入解析多模型协同推理的核心工程挑战，涵盖异构调度、请求编排引擎设计、跨模型缓存机制与实际生产优化。从DAG建模到Work Stealing，从放置策略到实战案例。
LLM
Linux Kernel THP 与 HugeTLB 调优：LLM 推理场景中 TLB Miss 与内存足迹的深度优化
从 Linux 内核页表管理底层机制出发，深入剖析 Transparent Huge Pages 和显式 HugeTLB 在 LLM 推理中的实战调优方案，包含与 vLLM/SGLang 集成的完整配置、性能基准测试数据和部署最佳实践。
LLM 推理服务生产化：从 POC 到高吞吐低延迟的系统工程实践
本文从 KV Cache 内存管理、Continuous Batching 调度、投机解码加速、模型量化策略四个维度，深入拆解 LLM 推理服务从实验室 Demo 走向千级 QPS 生产系统的工程实践。
eBPF × LLM 推理：零侵入全链路可观测性工程实践
探讨利用 eBPF 技术在不修改推理引擎源码的前提下，构建覆盖请求入口、Token调度、GPU计算、内存分配的全链路可观测平台
LLM 推理解耦架构：Prefill-Decode 分离的生产级吞吐工程实践
深入分析 LLM 生产中 Prefill-Decode 阶段的计算特征差异导致的资源冲突问题，系统阐述 Disaggregated Inference 架构的拓扑设计、KV Cache 传输协议实现，并给出 Prefill Worker、Decode Worker、传输引擎和智能调度器的完整生产级代码实现。包含四路 A100 实测性能基准与架构演进方向。
SGLang：结构化生成与 RadixAttention 推理引擎深度实战
深度剖析 SGLang 框架如何通过 RadixAttention 前缀缓存和压缩有限状态机（Compressed FSM）两大核心机制，在生产环境中实现 3-10 倍的结构化生成吞吐提升
AI Agent Function Calling 深度工程实战：从 Schema 校验到自愈式容错引擎
深入拆解AI Agent Function Calling引擎的核心机制：三层防御性Schema校验、Fuzzy参数解析、自愈式容错引擎、有向图并行调度器、双层结果缓存、生产级可观测性。含Python和Rust完整代码实现，从工程度角度看LLM工具调用从Demo到生产的跨越。
KV Cache 复用与 RadixAttention：从 vLLM 分页到 SGLang 前缀树的工程跃迁
深入研究 SGLang RadixAttention 数据结构如何通过 Radix Tree 实现 KV Cache 的全局复用，在多轮对话、Few-shot 和 Batch 推理场景下实现 30-60% TTFT 降低与 40%+ Throughput 提升。对比 vLLM PagedAttention 的局限，分析树形索引的工程实现、LRU 驱逐策略与调度优化。
Rust + GPU 计算着色器：跨平台 AI 推理引擎的工程实践
深入探讨 Rust 配合 GPU 计算着色器（wgpu/WGSL）构建跨平台 AI 推理引擎的技术选型方案、显存管理策略、INT8量化矩阵乘 kernel 实现，以及生产部署中的六大常见陷阱与性能数据对比。
AI Agent 记忆管理系统深度实战：从上下文窗口到长期记忆的架构演进
深入解析 AI Agent 记忆管理系统的架构设计：从感知记忆、工作记忆到长期记忆的三层模型，涵盖优先级队列、混合检索、遗忘机制、多租户隔离等核心工程实践。
