性能优化

eBPF AI 推理服务全链路可观测性工程实战

深入探讨如何利用eBPF构建AI推理服务的全链路可观测性工具栈,覆盖从请求入口到GPU计算完成的完整链路,包含GPU kernel launch追踪、CPU调度延迟分析、内存分配热点检测、网络层追踪等实战案例与代码示例。

Linux Sched-Ext:BPF 可编程调度器框架深度实战

Linux 6.12 引入的 sched_ext 框架允许通过 BPF 程序动态定义 CPU 调度策略,无需修改内核代码。本文深入剖析 SCX_OPS 生命周期、DSQ 机制、watchdog 限制,并通过完整的生产级 BPF 调度器源码演示从零搭建,附 Meta/Google 部署数据。

Linux内核DMA-BUF显式同步与跨驱动缓冲区共享:从零构建零拷贝GPU计算管线

在现代AI推理管线中,数据搬运的耗时往往超过计算本身。CPU与GPU、GPU与GPU、存储与加速器之间的零拷贝数据共享,是突破性能瓶颈的关键。Linux内核的DMA-BUF子系统正是解决这一问题的核心基础设施,而显式同步机制(explicit fencing)则是保证多设备并发访问正确性的基石。本文将深入DMA-BUF的内部机制,从零实现一个跨驱动的零拷贝GPU计算管线。