AI技术

AI 评估数据集构建与标注流程(2025)

# AI 评估数据集构建与标注流程(2025) 评估数据集决定了评估的可信度,需要规范采样与标注与质量流程。 ## 一、采样与覆盖 - 采样:覆盖主流与长尾场景,控制偏差。 - 分层:按类别与难度分层,提升代表性。 ## 二、标注与质检 - 标注规范:统一标签与说明,降低歧义。 - 质检:双人标注与仲裁,提升质量与一致性。 ## 三、评估与闭环 - 指标:准确性与一致性与引用正确率(对 R

AI Prompt Injection 防护与上下文隔离(2025)

# AI Prompt Injection 防护与上下文隔离(2025) 提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。 ## 一、上下文与权限 - 上下文隔离:用于不同任务的数据与权限分隔。 - 最小权限:工具与接口仅开放必要能力。 ## 二、提示与约束 - 引用约束:明确只能基于提供上下文回答与引用。 - 模板与过滤:对输入进行过滤与正则清洗,降低风险。 #

OpenTelemetry 尾部采样与采样器配置(Tail-based、Span 过滤与成本)

--- title: OpenTelemetry 尾部采样与采样器配置(Tail-based、Span 过滤与成本) keywords: - OpenTelemetry - 尾部采样 - 采样器 - Span 过滤 - 成本 description: 深入讲解尾部采样与采样器配置,基于事务结果与特征进行采样与过滤,在控制成本的同时保持关键可见性。 date: 2025-11-26 categori...

MDX v3 await 语法实战与注意事项

--- 标题: MDX v3 await 语法实战与注意事项 关键词: - MDX v3 - await 支持 - ES2024 语法 - Node 16+ - 框架协作 描述: 结合 MDX v3 的现代语法支持,说明在 MDX 中使用 await 的实践前提与注意事项,并提供框架兼容性验证建议,附中文文档验证。 categories: - 文章资讯 - 技术教程 --- 引言 - ...

Largest Contentful Paint(LCP):测量与优化路径

--- title: Largest Contentful Paint(LCP):测量与优化路径 keywords: - LCP - PerformanceObserver - 优化路径 - preload - fetchpriority description: 使用 PerformanceObserver 采集 LCP 并围绕服务器与前端的关键路径进行优化,涵盖资源提示、优...

LangChain与LlamaIndex:检索与工具编排对比

--- title: LangChain与LlamaIndex:检索与工具编排对比 keywords: - LangChain - LlamaIndex - RAG - 工具调用 - 检索链路 description: 比较两大常用框架在检索链路与工具编排上的抽象与生态,指导项目选型与落地。 categories: - 文章资讯 - 技术教程 --- # LangChain与LlamaIn...

LLM输出防护:提示注入、敏感信息与事实核查

--- title: LLM输出防护:提示注入、敏感信息与事实核查 keywords: ["提示注入", "敏感信息", "事实核查", "上下文隔离", "引用证据"] description: 通过上下文隔离、输入/输出过滤与引用证据,实现对提示注入与敏感信息泄露的防护,并进行事实核查。 categories: - 应用软件 - 系统工具 --- # LLM输出防护:提示注入、敏感信...