GPU 显存碎片化深度实战:从 Buddy 分配器、expandable_segments 到碎片率治理与 CUDA OOM 修复 每一个在 A100/H100 上跑过大模型训练或长上下文推理的工程师,大概率都见过这样一个让人抓狂的报错: GPU并行计算 2026年10月08日 0 点赞 0 评论 18 浏览
Linux内核 EEVDF 调度器:从 CFS 到最早截止时间优先的架构革命 深入分析Linux 6.6引入的EEVDF(最早合格虚拟截止时间优先)调度器,从内核源码角度解析其算法原理、实现机制以及在AI推理基础设施中的实战调优策略 进程调度 2026年10月07日 0 点赞 0 评论 47 浏览
AI 训练与推理混部场景下 Linux I/O 优先级工程实战:从 cgroup iocost 到 io_uring sqthread 的端到端隔离 深入解析 Linux 内核 I/O 优先级四层控制体系(NVMe WRR / cgroup v2 io / ionice / io_uring sqthread),提供 AI 训练与推理混部场景下从 cgroup iocost 到 NVMe 硬件队列的完整隔离方案与可观测性实践。 进程调度 2026年10月07日 0 点赞 0 评论 51 浏览
io_uring 共享多提交队列:构建无锁 AI 推理服务的多生产者请求引擎 深入剖析io_uring多提交队列(Multi-SQ/Shared WQ)架构原理,提供从代码实现到生产部署的完整方案,展示在96核服务器上实现近14M IOPS的实战经验。 文件系统 2026年10月06日 0 点赞 0 评论 52 浏览
从 io_uring 到零拷贝对象存储网关:AI 训练数据管道的性能革命 深入剖析如何从零构建一个基于 io_uring 的 S3 兼容对象存储网关,为 AI 训练数据管道提供极致吞吐。探讨 Fixed Buffers、SQPOLL、零拷贝 sendmsg、多 IO 合并等核心技术的工程实践。 文件系统 2026年10月06日 0 点赞 0 评论 49 浏览
CXL 内存池化:构建下一代 AI 集群的内存基础设施 深入分析 CXL 内存池化技术在 AI 集群中的应用,涵盖 CXL 协议栈、Linux 内核 CXL 子系统实现、NUMA 分层调度策略、以及 KV Cache 扩展和 Checkpoint 异步写入等工程实践。 分布式系统 2026年10月06日 0 点赞 0 评论 48 浏览
CXL 内存池化架构深度实战:从协议分层到生产级部署 CXL(Compute Express Link)深度技术解析:从协议栈三层架构、基于目录的缓存一致性机制,到内存拓扑设计、Linux内核CXL子系统实现,以及AI推理集群中的生产级部署实战 服务器运维 2026年10月06日 0 点赞 0 评论 46 浏览
Slurm 作业调度与 GPU 拓扑感知调度深度工程实战:从 backfill 回填、gang scheduling 到 cgroup v2 隔离与 MPI 全链路解析 从 slurmctld 调度主循环与 TRES 资源模型出发,逐层拆解 backfill 回填两趟扫描、GPU 拓扑感知位图排序与 gpu-bind、topology/tree 交换机亲和、cgroup v2 设备隔离,以及 PMIx/torchrun 启动链路的生产级工程实践与落地清单。 工程实践 2026年10月05日 0 点赞 0 评论 43 浏览
Linux内核sched_ext BPF调度器实战——AI训练与推理服务混部场景下的自定义调度策略 深入解析Linux 6.12引入的sched_ext BPF调度器框架,通过完整代码示例展示如何为AI训练与推理混部场景开发生产级自定义调度器,包含vtime加权、NUMA感知放置、时间片差异化等核心机制,并附有双路EPYC 9654 4×H100基准测试数据。 eBPF技术 2026年10月05日 0 点赞 0 评论 41 浏览
Inside JAX:XLA 编译器如何将 Python 函数编译为 GPU PTX 代码 深入拆解 JAX/XLA 核心编译机制:Tracing 编译模型、HLO 中间表示、算子融合、自动并行化(GSPMD)、自定义VJP与性能调优实战 编译原理 2026年10月05日 0 点赞 0 评论 42 浏览