AI技术

AI Prompt Injection 防护与上下文隔离(2025)

# AI Prompt Injection 防护与上下文隔离(2025) 提示注入通过诱导模型违反边界执行敏感操作,需要在架构与提示与执行层面防护。 ## 一、上下文与权限 - 上下文隔离:用于不同任务的数据与权限分隔。 - 最小权限:工具与接口仅开放必要能力。 ## 二、提示与约束 - 引用约束:明确只能基于提供上下文回答与引用。 - 模板与过滤:对输入进行过滤与正则清洗,降低风险。 #