LLM Inference 编译器图优化全栈实战:从算子融合到自动调优的深度工程解析 深入剖析 LLM 推理引擎的图优化技术栈:算子融合策略与实现、从 AITemplate 到 FlagGems 的算子库演进、Meta Schedule 自动调优机制、以及基于 Triton 的算子手写优化。通过完整 Transformer 层融合优化实战案例,揭示从计算图到高性能 CUDA kernel 的全链路工程方法论。 推理部署 2026年10月01日 0 点赞 0 评论 59 浏览
PyTorch 2.0 Compiler 深度剖析:从 TorchDynamo FX Graph 到 TorchInductor Triton CodeGen 的完全工程指南 PyTorch 2.0 Compiler 深度剖析:从 TorchDynamo Python 字节码拦截、FX Graph 中间表示捕获、AOTAutograd 自动微分分解、TorchInductor Triton CodeGen GPU 内核代码生成、算子融合与内存优化、CUDA Graph 捕获、动态形状支持、分布式并行编译、到生产级部署与性能基准测试的完整工程指南。 深度学习 2026年09月20日 0 点赞 0 评论 58 浏览