The Tree of Thought: Monte Carlo Tree Search for LLM Reasoning Agents The Tree of Thought: Monte Carlo Tree Search for LLM Reasoning Agents 大语言模型 2026年10月05日 0 点赞 0 评论 44 浏览
LLM应用安全对齐工程化2026:提示词注入防御、越狱攻击检测、幻觉抑制与RAG验证实践 全面分析LLM应用安全2026年工程实践方案,涵盖提示词注入防御架构、越狱攻击检测、幻觉抑制与RAG验证及对齐训练闭环。 Web安全 2026年09月24日 0 点赞 0 评论 45 浏览
LLM Tokenizer 深度工程实战:从 BPE 合并算法、预分词正则到压缩率与多语言词表设计的生产级全解 拆解 LLM 分词器的工程内核:BPE 合并的增量训练实现、GPT-2 预分词正则的设计动机(数字为何三位一组)、字节级回退的边界处理、tiktoken 风格并行预分词与块边界一致性、压缩率与生育率的量化评估方法,附多语言词表设计与生产坑位清单。 自然语言处理 2026年10月01日 0 点赞 0 评论 46 浏览
ARM SME (Scalable Matrix Extension) 在终端 AI 推理中的架构演进与工程实践 深入剖析 ARMv9-A 架构的 Scalable Matrix Extension (SME):二维 ZA Tile 存储模型、矩阵外积指令(SMOPA/FMOPA)语义、Linux 内核 ZA 上下文管理,以及如何为 MobileLLM 推理中的 QKV Projection 与 Attention 编写高性能 SME 内核,含完整汇编代码和性能基准对比 芯片架构 2026年10月04日 0 点赞 0 评论 46 浏览
Model Context Protocol (MCP) 深度实战:构建类型安全的 AI 工具调用协议 深入剖析 Model Context Protocol 的架构、生命周期与四大核心原语(Tools/Resources/Prompts/Sampling),并分别用 TypeScript 官方 SDK 与 Rust 裸 JSON-RPC 从零构建可用 MCP Server,涵盖 stdio 与 Streamable HTTP 传输及安全最佳实践。 大语言模型 2026年10月05日 0 点赞 0 评论 46 浏览
2026年 MCP 协议与 AI Agent 工具生态:构建标准化智能体交互体系 深入解析2026年MCP协议与AI Agent工具生态的标准化进程,涵盖协议架构设计、工具分类、生产环境最佳实践及发展趋势 大语言模型 2026年09月21日 0 点赞 0 评论 47 浏览
2026年大语言模型推理优化技术深度解析:从KV Cache压缩到推测解码 深入解析2026年大语言模型推理优化技术,包括KV Cache压缩、推测解码和混合精度推理 推理部署 2026年09月23日 0 点赞 0 评论 47 浏览
LangChain代理工作流编排实战:从Function Calling到ReAct链式推理的工程落地 详解LangChain框架中从Function Calling到ReAct模式的技术演进路径,通过具体代码示例展示如何构建具备链式推理能力和大模型代理工作流。 前端开发 2026年09月23日 0 点赞 0 评论 47 浏览
LLM 推理引擎架构演进:PagedAttention、Continuous Batching 与 vLLM/SGLang 深度工程 深度解析现代 LLM 推理引擎 PagedAttention 和 Continuous Batching 两大核心技术,结合 vLLM 与 SGLang 工程案例,完整拆解 KV Cache 内存管理、Iteration-Level 调度、RadixAttention 缓存复用的底层原理与生产最佳实践。 推理部署 2026年09月29日 0 点赞 0 评论 47 浏览