自然语言处理

LLM Tokenizer 深度工程实战:从 BPE 合并算法、预分词正则到压缩率与多语言词表设计的生产级全解

拆解 LLM 分词器的工程内核:BPE 合并的增量训练实现、GPT-2 预分词正则的设计动机(数字为何三位一组)、字节级回退的边界处理、tiktoken 风格并行预分词与块边界一致性、压缩率与生育率的量化评估方法,附多语言词表设计与生产坑位清单。

Intl.Segmenter 多语言文本分词与选择:语义分片与性能实践

---title: Intl.Segmenter 多语言文本分词与选择:语义分片与性能实践tags: [Intl.Segmenter, 文本分词, 国际化, 选择范围, 性能]description: 使用 Intl.Segmenter 对不同语言文本进行语义分词与选择优化,改进高亮与编辑体验,并提供经验证的性能与准确指标。categories: - 文章资讯 - 技术教程---...