RDMA

LLM 推理解耦架构:Prefill-Decode 分离的生产级吞吐工程实践

深入分析 LLM 生产中 Prefill-Decode 阶段的计算特征差异导致的资源冲突问题,系统阐述 Disaggregated Inference 架构的拓扑设计、KV Cache 传输协议实现,并给出 Prefill Worker、Decode Worker、传输引擎和智能调度器的完整生产级代码实现。包含四路 A100 实测性能基准与架构演进方向。

Linux内核PCIe子系统深度工程实战:从设备枚举到SR-IOV虚拟化与生产性能调优

深度剖析Linux内核PCIe子系统:PCIe协议三层模型与拓扑枚举流程,pci_dev/pci_bus核心数据结构,BAR配置与64位内存映射,MSI/MSI-X中断与亲和性,DMA三种映射类型与IOMMU隔离,ASPM电源管理与延迟权衡,AER错误分类与生产监控,SR-IOV虚拟化与VFIO直通,NTB/GPUDirect P2P通信,生产环境链路训练/中断风暴/NUMA优化三大案例,PCIe Gen6/CXL未来趋势