DeepSeek-V3 Multi-head Latent Attention (MLA) 深度工程:低秩 KV Cache 压缩与分布式推理优化 深度解析 DeepSeek-V3 核心创新 MLA 机制:通过低秩联合压缩将 KV Cache 内存占用降低 320 倍,同时保持完整注意力表达能力。涵盖数学原理、CUDA kernel 融合实现、分布式推理优化以及与 MoE 的协同效应。 推理部署 2026年10月07日 0 点赞 0 评论 36 浏览
MoE 大规模分布式推理工程实战:从 All-to-All 通信到动态专家放置 深入拆解 MoE(Mixture of Experts)大规模分布式推理的工程实现:All-to-All 通信优化、DualPipe 架构、专家复制与放置策略、动态负载均衡、容错恢复机制,以及基于 DeepSeek-V3 的生产部署经验。 分布式系统 2026年10月05日 0 点赞 0 评论 39 浏览
DeepSeek时代: MoE推理系统的工程实战 深入剖析DeepSeek-V3的MLA注意力机制与细粒度MoE专家并行架构,涵盖KV Cache压缩、AlltoAll通信优化、显存预算分配等工程实战细节 推理部署 2026年10月03日 0 点赞 0 评论 72 浏览
DeepSeek 模型显存量化与消费级 GPU 部署工程实践 从工程实践层面,深入剖析如何在有限消费级 GPU 显存上通过 GGUF 量化、KV Cache 压缩和投机解码实现 DeepSeek 系列模型的高效本地部署 服务器运维 2026年10月02日 0 点赞 0 评论 50 浏览
MoE 推理架构深度实战:从 Expert Parallelism 到 DeepSeek-V3 的工程落地 深入解析 Mixture of Experts(MoE)推理架构的工程实现,涵盖 Expert 路由机制、分层 All-to-All 通信优化、Prefill/Decode 阶段调度策略、Expert Cache 管理,以及 DeepSeek-V3 级别模型的部署实战。 推理部署 2026年10月01日 0 点赞 0 评论 70 浏览
当AI开始制造AI:递归自我改进(RSI)从理论走向产业竞赛的2026年9月 2026年9月,AI行业迎来'自我进化'的关键拐点——Anthropic首次公布内部80%代码由Claude撰写的数据并建立研发自动化指数,OpenAI首次披露对齐失效案例并宣布已实现自动化研究实习生,微软发布37页《人文主义AI行为准则》重新定义人类控制权边界,Recursive携6.5亿美元融资冲击'尤里卡机器'。与此同时,GPT-6 Sol/Luna价格腰斩、DeepSeek V4.1-Flash登顶全球调用量、北京发布首个省级词元经济行动方案、工信部启动绿色算力设施推荐。本文深度解析AI从'工具'到'研究者'的历史性跨越。 大语言模型 2026年09月25日 0 点赞 0 评论 43 浏览
AI新范式加速确立:从模型密集迭代到Agent规模化落地的九月全景 2026年9月,AI行业迎来从底层模型到终端应用的全局性跃迁。阶跃Step 5 Preview登顶全球开源前三、中电信星辰Xing4.0实现全栈国产Agent轻量化、Kimi Code桌面客户端将多Agent协作带入GUI、智元第20000台具身机器人下线交付长隆、Gartner十大趋势定义四层递进格局——AI正从"能生成"彻底走向"能交付"。 大语言模型 2026年09月25日 0 点赞 0 评论 50 浏览
"7940万个AI Agent活在2026:当智能体吃掉整个互联网,算力成为新时代的'水电煤'" 2026年9月,IDC发布全球首份DAA研究报告:7940万个活跃Agent正在重塑算力版图,Token消耗增速是智能体数量增速的37倍。从Anthropic 116亿美元CPU大单到联合国安理会首议AI安全,从存储芯片库存告急到国产算力架构创新。 大语言模型 2026年09月25日 0 点赞 0 评论 43 浏览
从Chat到Work:2026云栖大会揭示AI智能体经济的全面崛起 2026年全景解读:从云栖大会Agent原生参会到阿里5-10万亿参数豪赌,从国产大模型调用量连续21周领跑全球到中美建立AI对话机制,AI产业从Chat正式迈Work,智能体经济的水电煤基础设施正在成型。 AI应用与Agent 2026年09月25日 0 点赞 0 评论 44 浏览
AI Agent进入"交付时代":从能生成到能办事,2026年9月产业拐点观察 2026年9月下旬AI产业迎来历史性拐点:OpenAI GPT-6半价上线,Anthropic Claude Opus 5.5降本40%,DeepSeek年化收入突破10亿美元冲刺5000亿估值IPO。Altman与Amodei同赴联合国安理会呼吁全球AI治理,云栖大会首次以Agentic AI为核心主题。产业从"能生成"迈向"能交付"的全新时代。 大语言模型 2026年09月25日 0 点赞 0 评论 44 浏览