LLM Inference 编译器图优化全栈实战:从算子融合到自动调优的深度工程解析 深入剖析 LLM 推理引擎的图优化技术栈:算子融合策略与实现、从 AITemplate 到 FlagGems 的算子库演进、Meta Schedule 自动调优机制、以及基于 Triton 的算子手写优化。通过完整 Transformer 层融合优化实战案例,揭示从计算图到高性能 CUDA kernel 的全链路工程方法论。 推理部署 2026年10月01日 0 点赞 0 评论 59 浏览
LLM Tokenizer 深度工程实战:从 BPE 合并算法、预分词正则到压缩率与多语言词表设计的生产级全解 拆解 LLM 分词器的工程内核:BPE 合并的增量训练实现、GPT-2 预分词正则的设计动机(数字为何三位一组)、字节级回退的边界处理、tiktoken 风格并行预分词与块边界一致性、压缩率与生育率的量化评估方法,附多语言词表设计与生产坑位清单。 自然语言处理 2026年10月01日 0 点赞 0 评论 46 浏览
AI Agent 记忆系统架构:为自主智能体构建长期记忆 深入解析 AI Agent 记忆系统架构:从工作记忆的 Context Window 管理,到情景记忆的事件日志与级联压缩,再到语义记忆的混合检索与知识图谱,以及程序性记忆的技能提炼。覆盖 Memory Consolidation、多 Agent 共享记忆、隐私合规与成本控制等工程实践。 大语言模型 2026年10月01日 0 点赞 0 评论 51 浏览
MoE 推理架构深度实战:从 Expert Parallelism 到 DeepSeek-V3 的工程落地 深入解析 Mixture of Experts(MoE)推理架构的工程实现,涵盖 Expert 路由机制、分层 All-to-All 通信优化、Prefill/Decode 阶段调度策略、Expert Cache 管理,以及 DeepSeek-V3 级别模型的部署实战。 推理部署 2026年10月01日 0 点赞 0 评论 71 浏览
[2402.00159] Dolma: an Open Corpus of Three Trillion Tokens for Language Model Pretraining Research 学习资料 模型微调 2026年10月01日 0 点赞 0 评论 27 浏览
Chatbase | Train ChatGPT on your data and add it to your website 影音娱乐 大语言模型 2026年10月01日 0 点赞 0 评论 19 浏览