异构计算环境下的 AI Agent 任务调度：GPU/NPU/CPU 协同执行引擎 探讨AI Agent在异构计算环境中的任务调度策略，包括GPU/NPU/CPU协同执行引擎、统一内存管理、KV Cache优化及零拷贝技术等深度工程实践。 大语言模型 2026年10月03日 0 点赞 0 评论 57 浏览
端侧 AI 推理引擎：从模型压缩到硬件加速的全栈工程实践 端侧AI推理引擎全栈技术解析：从模型量化（GPTQ/AWQ/BitNet）、推理引擎架构设计、NPU/GPU/CPU异构调度到KV Cache内存管理，系统拆解在毫瓦级设备上运行大模型的核心工程实践。 全栈开发 2026年10月02日 0 点赞 0 评论 60 浏览
