大语言模型

1. 首页
2. 科技
3. 人工智能
4. 大语言模型

大模型推理优化深度实战：从 KV Cache 机制到 Speculative Decoding 与 vLLM 生产级部署的完全工程指南

大模型推理优化深度实战完全指南：从 KV Cache 机制(PagedAttention/Prefix Caching/FP8)到 Speculative Decoding(Medusa/EAGLE)、Continuous Batching、Chunked Prefill、vLLM 生产部署、分布式调度与弹性扩缩容、GPU 量化选型到 2026 年 MoE/超长上下文前沿趋势。

推理部署 2026年09月19日 0 点赞 0 评论 103 浏览

AI智能体开发与编排实战：从单Agent到多Agent协作系统的工程实践

从单Agent原型到多Agent协作系统的工程实践全指南：核心架构模式、Function Calling机制、记忆与状态管理、多Agent编排框架对比与生产级实战

大语言模型 2026年09月19日 0 点赞 0 评论 80 浏览

LLM推理优化与部署实战：从vLLM到TensorRT-LLM的生产级性能调优指南

从vLLM到TensorRT-LLM，深入讲解LLM推理优化的核心技术：PagedAttention、Continuous Batching、投机解码、量化加速。包含Docker/K8s部署方案、性能基准对比与生产级监控配置。

推理部署 2026年09月19日 0 点赞 0 评论 80 浏览

MCP（Model Context Protocol）实战指南：从协议原理到动手构建 MCP Server 与 Client

从 Function Calling 的局限讲起，拆解 MCP 的 Host/Client/Server 架构与 Tools/Resources/Prompts 三大原语，手把手用官方 SDK 构建 MCP Server 与 Client，并落地到企业内部 API 封装。

大语言模型 2026年09月19日 0 点赞 0 评论 59 浏览

Go语言构建RAG应用实战向量数据库与LLM集成完整指南

Go语言构建生产级RAG系统全流程文档切片pgvector向量检索混合检索重排序LLM集成流式输出

大语言模型 2026年09月19日 0 点赞 0 评论 77 浏览

Linux涓袱娆惧苟鍙戞祴璇曞伐鍏穉b&webbench

浠嬬粛Linux涓嬩袱娆惧疄鐢ㄧ殑骞跺彂娴嬭瘯宸ュ叿ab鍜寃ebbench鐨勪娇鐢ㄦ柟娉曪紝鍖呮嫭瀹夎銆佸弬鏁拌鏄庡拰娴嬭瘯绀轰緥瀵规瘮

大语言模型 2026年09月16日 0 点赞 0 评论 5 浏览

智能C盘扩容整理专家

C 盘告急不用愁！智能 C 盘扩容整理专家专为 Windows 打造的 C 盘清理扩容神器✨一站式解决 C 盘空间难题智能分析 C 盘空间，精准扫描大文件、重复文件、空文件夹，10 大类系统 / 浏览器 / 软件垃圾一键清理；支持应用 AppData 无感迁移，分区扩容智能规划，无感扩容一键完成！全程安全守护，清理前自动创建系统还原点，操作日志可追溯，备份 7 天可恢复；界面流畅不卡顿，释放 C 盘空间，告别 C 盘满、电脑卡！

大语言模型 2026年05月14日 0 点赞 0 评论 135 浏览

DS-AI本地化助手

通过本工具软件可将Al模型实现本地化部署，无需编程基础，即可充分利用个人电脑的性能,获得数据隐私保护，避免网络速度限制,获得更更加流畅、高效的A使用体验。

大语言模型 2026年05月14日 0 点赞 0 评论 77 浏览

DS大模型助手-R1满血版

DS大模型助手-R1满血版是一款专为AI工具本地部署设计的高效辅助软件。它支持多版本快速本地部署，以适应多种系统环境，实现本地一键快捷部署，使用简便，效率高。该软件能够显著减少系统卡顿、延迟和无响应等问题，优化使用体验，确保每一个创意都能迅速得到处理。此外，DS大模型助手-R1满血版还提供对AI模型的系统性定制配置，使AI操作更加智能，答案处理更加人性化。[此软件为DS大模型本地部署的三方工具，非deepseek官方产品]

大语言模型 2026年05月12日 0 点赞 0 评论 177 浏览

AI写作全能大师-金舟

【软件介绍】ai写作,ai创作,ai写作助手,写作ai,写论文,ai写文,写公文,写日报,写周报,写报告,写小说,写剧本,年度工作总结,述职报告,写软文,小红书种草文案,爆款标题,续写,改写,润色,扩写,缩写,写大纲；AI写作全能大师是一款专门打造的AI智能写作助手，帮你轻松应对各类创作场景。无论是写小说论文、问题解答、新闻咨询、自媒体营销文案、工作总结、作文批改润色，还是节日祝福，我们都为您提供了丰富多样的场景写作助手，AI即刻为你生成流畅、优质的文本内容。【功能特点】1.全场景覆盖：内置小说创作、自媒体营销、工作总结、作文批改、节日祝福等多场景写作助手，应对不同创作需求，助您随心书写。2.智能内容优化：支持对任意内容进行AI改写、续写、润色、扩写、缩写及大纲生成，一键优化，让表达更贴近心意。3.语法校对与精修：集成智能语法检查与文本润色功能，实时提供专业写作建议，确保文章用词准确、语句流畅。4.个性化定制输出：可根据需要自由调节字数、选择文风与语气，实现真正意义上的定制化创作，让每篇内容都彰显你的风格。

大语言模型 2026年05月12日 0 点赞 0 评论 43 浏览

纯犀AI人声分离-精准分离

纯犀AI人声分离软件，是专业的音频人声和伴奏分离软件。软件支持的功能有: 人声分离，音频分离，伴奏提取，人声提取，消除人声，消除伴奏，伴奏分离，视频消除人声，视频人声分离，音乐去人声，背景音乐提取等功能。软件操作简单，一键即可提取人声，伴奏，是非常专业，非常容易使用的人声分离，伴奏提取软件。

大语言模型 2026年05月11日 0 点赞 0 评论 66 浏览

迅捷Ai修图(360专版)

迅捷AI修图是一款操作简单、功能齐全的智能编辑图片编辑软件。支持多种图片编辑功能,包括图片格式转换、拼图、图片压缩、人像抠图及智能证件照等,可满足不同用户群体的图片处理需求。此外，迅捷AI修图作为一款智能图片编辑软件还支持图片批量编辑、老照片修复、无损放大图片、黑白照片上色等其他功能，助力提升用户的工作和学习效率。 【软件特色】 1、齐全的编辑功能: 迅捷AI修图提供了多种编辑工具，包拼接、压缩、修复等，可以满足用户对图片的各种编辑需求。 2、直观易用的界面: 迅捷AI修图的界面简洁直观，用户可以快速上手使用，操作十分便捷。 3、多种文件格式支持: 迅捷AI修图支持多种图片文件格式，包括 JPG、PNG、BMP、GIF等，满足不同格式的图片编辑需求。 4、批量处理功能: 迅捷AI修图支持批量处理图片，用户可以同时对多张图片进行编辑处理，提高工作效率。

大语言模型 2026年05月11日 0 点赞 0 评论 36 浏览

AI看图编辑王-金舟

看图软件,图片编辑软件,看图编辑王,AI抠图,图片去水印,AI修图,图片批量处理,图片打印，AI看图编辑王-金舟是一款速度超快的高清看图及图片编辑美化软件。支持海量图片格式，同时具备图片裁剪、拼图、修复、增强、去水印、特效、抠图等丰富而强大的图片处理能力，结合AI图像算法，轻松搞定各种图片需求。图片打印运用图像处理技术，屏幕所见即打印所得，还原真实色彩。图片批量管理，轻松整理庞大图片库，带来全新图片管理体验。【功能特点】-多格式支持：支持除常规JPG/PNG/BMP/HEIC格式外，还支持PSD/RAW/AI/JP2/SVG/AVIF等更多专业格式，全面覆盖日常办公和生活中的常见图片浏览需求；-高级打印：支持单图和多图一键打印，内设多种打印排版，实现图片高级打印；-图片编辑美化：图片添加文本、图片裁剪、图片旋转、尺寸调整，去水印、图片无损放大、图片增强、图片修复、图片去雾、图片特效等功能；-抠图证件照：人像抠图、物品抠图，智能证件照，一键快速换背景；-文字提取：一键识别提取并图中文字，还支持转WORD、TXT文档；-截图功能：满足日常截图需求，自定义截图、

大语言模型 2026年05月11日 0 点赞 0 评论 52 浏览

迅捷AI写作(360专版)

迅捷AI写作是一款AI智能写作工具，支持AI全文写作，根据指定关键词主题，快速生成文章内容，可覆盖文案、报告、干货写作等多种实际场景。软件还提供AI聊天对话、AI画作等功能，可以高效答疑解惑，也能辅助创作，用AI为用户的工作和生活赋能。

大语言模型 2026年05月10日 0 点赞 0 评论 52 浏览

Knockout智能抠图P图

一键抠图，智能识别图片完成AI抠图，精细度覆盖至发丝级别，专业抠图工具。

大语言模型 2026年05月10日 0 点赞 0 评论 29 浏览