Rust

Rust 重塑 AI 基础设施:从 PyTorch Rust 绑定到 LLM 推理引擎的系统级优化实战

深入剖析 Rust 在 AI 基础设施中的崛起:从 vLLM Rust 调度器的 PagedAttention 实现到 Candle/Hugging Face ML 框架,再到 Polars 数据处理与 DataFusion 查询引擎,全面覆盖 Rust 在 LLM 推理、数据管道、Python 扩展方面的实战方案。包含完整的代码示例和从 Python 到 Rust 的迁移路径。

Rust + CUDA IPC:多 GPU 间零拷贝张量通信工程实战

大规模 AI 模型训练与推理离不开多 GPU 协作。本文深入讲解 CUDA IPC 机制如何实现在同一节点内多 GPU 间零拷贝张量传递,并通过 Rust FFI 绑定给出完整工程实现,覆盖内存共享模型、事件同步、NVLink 拓扑感知、错误处理与 NCCL 集成。