eBPF 加速 LLM 推理调度:从内核级可观测到动态 Batch 决策的全栈实践 探索如何利用 eBPF 实现 LLM 推理服务的全栈可观测性与动态调度优化,涵盖 syscall 层、uprobe、kprobe 三层探针设计,以及基于实时指标的 Adaptive Batch Size 决策器,实现 P99 TTFT 降低 77% 的生产效果。 eBPF入门 2026年10月03日 0 点赞 0 评论 57 浏览
GPU 调度器多租户 AI 工作负载:Kubernetes 下的架构设计与工程实践 深入分析 Kubernetes 下多租户 GPU 集群的调度架构,涵盖 MIG/MPS/时间分片三大共享策略、Bin Packing 与运行时 Defragmentation 算法、Scheduler Extender 与 DRA 机制,以及生产级 QoS 保障与公平性设计。 K8s核心 2026年10月01日 0 点赞 0 评论 57 浏览
云原生数据基础设施2026:分布式数据库、湖仓一体与AI负载调度的架构融合 深度分析2026年云原生数据基础设施技术全景,涵盖TiDB/CockroachDB等分布式数据库架构进化、Lakehouse 2.0数据湖仓一体、Kubernetes AI工作负载调度的弹性训练与推理、KubeEdge边缘云原生实践,以及FinOps治理体系的最新进展。 容器与K8s 2026年09月24日 0 点赞 0 评论 61 浏览