AI技术

Cloudflare Workers AI 与 Vectorize 实战

引言 - Workers AI 将模型推理能力带到 Cloudflare 边缘;Vectorize 提供托管向量索引,便于在边缘实现检索增强与个性化服务。 能力与实践(已验证) - Workers AI:支持在边缘调用模型进行推理,兼容 Web 标准与 Workers 环境。来源:Cloudflare Docs(Workers AI)。 - Vectorize:托管向量索引存储,与 Work

AI 评估数据集构建与标注流程(2025)

# AI 评估数据集构建与标注流程(2025) 评估数据集决定了评估的可信度,需要规范采样与标注与质量流程。 ## 一、采样与覆盖 - 采样:覆盖主流与长尾场景,控制偏差。 - 分层:按类别与难度分层,提升代表性。 ## 二、标注与质检 - 标注规范:统一标签与说明,降低歧义。 - 质检:双人标注与仲裁,提升质量与一致性。 ## 三、评估与闭环 - 指标:准确性与一致性与引用正确率(对 R

LLM 函数调用与工具编排实践(2025)

# LLM 函数调用与工具编排实践(2025) 函数调用与工具编排让模型与系统协作,提升可控性与可复现性。 ## 一、接口与模式 - JSON Schema:定义函数参数与返回,校验输入输出。 - 安全边界:限制可调用能力与资源,遵循最小权限。 ## 二、计划与执行 - 计划执行:将多步任务拆分为计划与步骤,控制顺序与依赖。 - 观察与回路:记录每次调用的观察与结果,便于回溯与调试。 ##

AI Prompt Injection 防护与上下文隔离(2025)

# AI Prompt Injection 防护与上下文隔离(2025) 提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。 ## 一、上下文与权限 - 上下文隔离:用于不同任务的数据与权限分隔。 - 最小权限:工具与接口仅开放必要能力。 ## 二、提示与约束 - 引用约束:明确只能基于提供上下文回答与引用。 - 模板与过滤:对输入进行过滤与正则清洗,降低风险。 #