Tokenizer

Rust 重塑 AI 基础设施:从 PyTorch Rust 绑定到 LLM 推理引擎的系统级优化实战

深入剖析 Rust 在 AI 基础设施中的崛起:从 vLLM Rust 调度器的 PagedAttention 实现到 Candle/Hugging Face ML 框架,再到 Polars 数据处理与 DataFusion 查询引擎,全面覆盖 Rust 在 LLM 推理、数据管道、Python 扩展方面的实战方案。包含完整的代码示例和从 Python 到 Rust 的迁移路径。

LLM Tokenizer 深度工程实战:从 BPE 合并算法、预分词正则到压缩率与多语言词表设计的生产级全解

拆解 LLM 分词器的工程内核:BPE 合并的增量训练实现、GPT-2 预分词正则的设计动机(数字为何三位一组)、字节级回退的边界处理、tiktoken 风格并行预分词与块边界一致性、压缩率与生育率的量化评估方法,附多语言词表设计与生产坑位清单。