Go语言构建RAG应用实战向量数据库与LLM集成完整指南 Go语言构建生产级RAG系统全流程文档切片pgvector向量检索混合检索重排序LLM集成流式输出 大语言模型 2026年09月19日 0 点赞 0 评论 55 浏览
Open Policy Agent/Kyverno策略治理与准入控制实践 使用 OPA/Kyverno 在 Kubernetes 中实施策略治理与准入控制,编写与验证策略、阻断不合规变更,并提供审计与集成方法。 大语言模型 2026年04月30日 0 点赞 0 评论 189 浏览
LLM函数调用与JSON模式约束:结构化输出与工具编排 通过函数调用与 JSON Schema 约束实现结构化输出与工具编排,提升可控性与集成效率。 Prompt工程 2026年04月30日 0 点赞 0 评论 227 浏览
LLM 推理缓存与去重策略(Prompt Cache、Fingerprint 与验证) 通过Prompt缓存与请求指纹实现去重与命中,结合结果分片与Speculative策略降低延迟与成本,提供实现与验证方法。 Prompt工程 2026年04月30日 0 点赞 0 评论 195 浏览
LLM 推理优化(Batching、Cache、Speculative Decoding 与验证) 总结大模型推理的性能优化方法,包括批处理、缓存与推测解码,并提供可验证的压测与观测路径。 推理部署 2026年04月30日 0 点赞 0 评论 200 浏览
LLM 响应结构化与 Guardrails(JSON 模式、Schema 验证与安全) 将LLM输出结构化为JSON并通过Schema验证与安全过滤,结合PII检测与字段白名单,提供实现与验证方法以增强可靠性与合规。 大语言模型 2026年04月30日 0 点赞 0 评论 191 浏览
LLM 函数调用与工具编排实践(2025) # LLM 函数调用与工具编排实践(2025)函数调用与工具编排让模型与系统协作,提升可控性与可复现性。## 一、接口与模式- JSON Schema:定义函数参数与返回,校验输入输出。- 安全边界:限制可调用能力与资源,遵循最小权限。## 二、计划与执行- 计划执行:将多步任务拆分为计划与步骤,控制顺序与依赖。- 观察与回路:记录每次调用的观察与结果,便于回溯与调试。## 大语言模型 2026年04月30日 0 点赞 0 评论 202 浏览
Intl.Segmenter 分词:国际化排版与搜索高亮 介绍 Intl.Segmenter 的分词能力与粒度选择(字素/单词/行),用于国际化排版、游标移动与搜索高亮,提供示例与工程建议。 自然语言处理 2026年04月30日 0 点赞 0 评论 119 浏览
GraphRAG:图结构增强检索与关系推理 以图结构作为知识组织与检索基础,结合语义检索与关系推理提升长链路问题的答案质量与可解释性。 推理部署 2026年04月30日 0 点赞 0 评论 223 浏览
Embeddings维度与量化:召回、延迟与成本权衡 分析向量维度与量化对检索质量与性能的影响,结合索引与硬件资源进行权衡与调优。 AI应用与Agent 2026年04月30日 0 点赞 0 评论 116 浏览