模型量化实战：从 AWQ/GPTQ 到 NVIDIA FP8 推理的工程部署与性能调优
深度剖析大语言模型推理中的量化技术路线，从 GPTQ、AWQ、SmoothQuant 到 NVIDIA 硬件级 FP8 推理，结合 vLLM 与 TensorRT-LLM 实战部署，给出一套完整的工程方案。
FP8
FP8混合精度推理全链路部署实战：从模型格式到生产级推理引擎
深入解析FP8密集精度推理的全链路部署方案：从FP8数值格式E4M3/E5M2的取舍，到FP8 KV Cache的显存优化、FP8权重量化与动态量化、Transformer Engine与vLLM/SGLang的集成，最终给出可落地的生产级部署实践。
FP8 混合精度训练工程实践：从 H100 到大模型训练的范式跃迁
深入解析 FP8 混合精度训练的硬件原理与生产实践，覆盖 E4M3/E5M2 格式设计、Loss Scaling 策略、Transformer Engine 实战、分布式训练协同优化，以及 Blackwell 未来展望。
LLM 后训练量化深度实战：从 GPTQ/AWQ 到 FP8 与 KV Cache 量化的显存-带宽极限工程
从 Roofline 模型定量证明 decode 阶段 Tensor Core 利用率仅 0.33% 的内存墙困境出发，系统拆解 LLM 后训练量化的完整工程栈：group-wise 量化粒度、SmoothQuant 的 outlier 迁移、GPTQ 的 Hessian 误差补偿、AWQ 的激活感知缩放、FP8 延迟缩放与 KV Cache 分级量化，并给出逐层重建误差定位法与生产选型决策树。
KV Cache 量化与压缩工程实战：从 FP16 到 FP8/INT8/INT4，精度、速度、显存的黄金三角
深入解析 LLM 推理系统中 KV Cache 的量化与压缩工程实战，从 FP16 到 FP8/INT8/INT4 的精度-显存-速度权衡，涵盖 Per-token 量化、GQA 压缩、LazyKV 淘汰、Prefix Sharing、Delta 压缩等前沿技术，附 SGLang 生产级配置与实测数据。
