容错

从 XID 错误到芯片级容错:GPU 显存 ECC 损坏在 AI 训练中的检测、隔离与自愈工程

AI 训练集群规模从百卡扩展到千卡、万卡级别后,GPU 显存错误成为影响训练稳定性和模型收敛性的隐性杀手。与传统 CPU 不同,GPU 显存错误往往表现为"静默数据损坏"(Silent Data Corruption, SDC)——权重悄然翻转一个 bit,Loss 曲线异常抖动,而训练流程本身不会报错退出。本文从硬件 ECC 机制出发,深入讲解 GPU XID 事件解析、内核驱动级错误检测、生产…

Ray 分布式计算引擎深度实战:从 Plasma 共享内存对象存储、Actor 所有权模型到 GCS 与分布式调度的工程全解

深入解析 Ray 分布式计算引擎三大基石:基于 Arrow 与共享内存的 Plasma 对象存储、所有权模型下的分布式引用计数与血缘重建容错、刻意保持轻薄的 GCS 控制面,以及自下而上的分布式调度与 Placement Group 资源预留。配合可运行代码与生产踩坑清单。