"RAG混合检索与知识增强生成实践"
"深入探讨RAG架构中的混合检索策略，结合向量检索、关键词检索和知识图谱的多模态检索方案，通过实际案例展示如何构建高精度的知识增强生成系统。"
llm
LLM 函数调用与工具编排实践（2025）
LLM 函数调用与工具编排实践（2025）函数调用与工具编排让模型与系统协作，提升可控性与可复现性。一、接口与模式JSON Schema：定义函数参数与返回，校验输入输出。安全边界：限制可调用能力与资源，遵循最小权限。二、计划与执行计划执行：将多步任务拆分为计划与步骤，控制顺序与依赖。观察与回路：记
LLM 响应结构化与 Guardrails（JSON 模式、Schema 验证与安全）
将LLM输出结构化为JSON并通过Schema验证与安全过滤，结合PII检测与字段白名单，提供实现与验证方法以增强可靠性与合规。
LLM 推理优化（Batching、Cache、Speculative Decoding 与验证）
总结大模型推理的性能优化方法，包括批处理、缓存与推测解码，并提供可验证的压测与观测路径。
LLM 推理缓存与去重策略（Prompt Cache、Fingerprint 与验证）
通过Prompt缓存与请求指纹实现去重与命中，结合结果分片与Speculative策略降低延迟与成本，提供实现与验证方法。
LLM 服务端流式传输与断点续传（SSE/WebSocket、分片与验证）
使用SSE或WebSocket提供LLM流式输出，并通过分片与游标实现断点续传与重试安全，给出服务端与客户端实现与验证方法。
LLM 输出去敏与审计流水（PII Redaction、审计与验证）
为LLM输出进行PII去敏与审计记录，通过规则与模型识别敏感信息并替换，保留审计流水与证据链，提供实现与验证方法。
