LLM Inference 编译器图优化全栈实战:从算子融合到自动调优的深度工程解析 深入剖析 LLM 推理引擎的图优化技术栈:算子融合策略与实现、从 AITemplate 到 FlagGems 的算子库演进、Meta Schedule 自动调优机制、以及基于 Triton 的算子手写优化。通过完整 Transformer 层融合优化实战案例,揭示从计算图到高性能 CUDA kernel 的全链路工程方法论。 推理部署 2026年10月01日 0 点赞 0 评论 59 浏览
2026年AI芯片与先进计算架构实战:从存算一体到硅光互连的下一代算力基础设施工程体系 2026年AI芯片与先进计算架构完整实战指南:从NVIDIA Rubin/Blackwell架构演进、存算一体与近存计算、HBM4高带宽内存与CoWoS-UCIe先进封装、硅光子共封装光学CPO、超大规模数据中心InfiniBand NDR网络、浸没式液冷散热、边缘AI推理芯片,到TVM/MLIR编译器优化与软件栈生态,全面解析下一代算力基础设施工程体系的技术突破与实践路径。 芯片架构 2026年09月22日 0 点赞 0 评论 55 浏览
TVM TensorIR 自动化算子优化工程实践:从调度原语到硬件原生性能 深入解析Apache TVM的TensorIR调度原语体系和AutoTIR自动调优机制,涵盖循环变换、内存层次调度、rfactor归约分解等核心优化原语,以及在FlashAttention等真实推理场景中的工程落地与性能数据。 编译原理 2026年10月03日 0 点赞 0 评论 51 浏览