AI技术
  1. 首页
  2. 文章资讯
  3. AI技术

列表

AI Prompt Injection 防护与上下文隔离（2025）

AI Prompt Injection 防护与上下文隔离（2025）

# AI Prompt Injection 防护与上下文隔离（2025） 提示注入通过诱导模型违反边界执行敏感操作，需要在架构与提示与执行层面防护。 ## 一、上下文与权限 - 上下文隔离：用于不同任务的数据与权限分隔。 - 最小权限：工具与接口仅开放必要能力。 ## 二、提示与约束 - 引用约束：明确只能基于提供上下文回答与引用。 - 模板与过滤：对输入进行过滤与正则清洗，降低风险。 #
大语言模型 2026年04月30日
LLM 函数调用与工具编排实践（2025）

LLM 函数调用与工具编排实践（2025）

# LLM 函数调用与工具编排实践（2025） 函数调用与工具编排让模型与系统协作，提升可控性与可复现性。 ## 一、接口与模式 - JSON Schema：定义函数参数与返回，校验输入输出。 - 安全边界：限制可调用能力与资源，遵循最小权限。 ## 二、计划与执行 - 计划执行：将多步任务拆分为计划与步骤，控制顺序与依赖。 - 观察与回路：记录每次调用的观察与结果，便于回溯与调试。 ##
大语言模型 2026年04月30日
LLM输出防护：提示注入、敏感信息与事实核查

LLM输出防护：提示注入、敏感信息与事实核查

--- title: LLM输出防护：提示注入、敏感信息与事实核查 keywords: ["提示注入", "敏感信息", "事实核查", "上下文隔离", "引用证据"] description: 通过上下文隔离、输入/输出过滤与引用证据，实现对提示注入与敏感信息泄露的防护，并进行事实核查。 categories: - 应用软件 - 系统工具 --- # LLM输出防护：提示注入、敏感信...
大语言模型 2026年04月30日
OpenTelemetry 尾部采样与采样器配置（Tail-based、Span 过滤与成本）

OpenTelemetry 尾部采样与采样器配置（Tail-based、Span 过滤与成本）

--- title: OpenTelemetry 尾部采样与采样器配置（Tail-based、Span 过滤与成本） keywords: - OpenTelemetry - 尾部采样 - 采样器 - Span 过滤 - 成本 description: 深入讲解尾部采样与采样器配置，基于事务结果与特征进行采样与过滤，在控制成本的同时保持关键可见性。 date: 2025-11-26 categori...
AI技术 2026年04月30日
Redis ZSET 排行榜 稀疏更新 分页

Redis ZSET 排行榜 稀疏更新 分页

# Redis ZSET 排行榜：稀疏更新与分页 在后端开发中，排行榜是一个非常常见的功能。Redis 的 ZSET（Sorted Set）数据结构非常适合用于实现排行榜。本文将介绍如何使用 Redis ZSET 实现排行榜，并探讨稀疏更新和分页的实现策略。 ## 1. Redis ZSET 简介 Redis ZSET 是一个有序集合，每个成员都关联了一个分数（score），Redis 正是
机器学习 2026年04月30日