机器学习

Rust 重塑 AI 基础设施:从 PyTorch Rust 绑定到 LLM 推理引擎的系统级优化实战

深入剖析 Rust 在 AI 基础设施中的崛起:从 vLLM Rust 调度器的 PagedAttention 实现到 Candle/Hugging Face ML 框架,再到 Polars 数据处理与 DataFusion 查询引擎,全面覆盖 Rust 在 LLM 推理、数据管道、Python 扩展方面的实战方案。包含完整的代码示例和从 Python 到 Rust 的迁移路径。

大模型蒸馏与小型化深度工程实战:从 Logit、中间特征对齐到合成数据流水线的生产级全解

拆解大模型蒸馏的四类知识表示(Logit/特征/关系/偏好)、温度与梯度 T^2 刻度的真实数学、中间层维度不匹配的投影对齐与关系蒸馏、在线自蒸馏的算力权衡,以及决定蒸馏上限的合成数据流水线:种子分层、拒绝采样验证器、MinHash 去重、难度课程化与评测去污染,附 PyTorch 可运行代码与生产陷阱清单。