大模型安全的红队对抗与稳健性评测2026:从越狱检测到对齐遗忘学的创新防御体系 2026年大模型安全深度技术体系,覆盖多轮社会工程学越狱、自动化红队、对齐遗忘学、鲁棒对齐训练与供应链防护的全栈实践。 大语言模型 2026年09月24日 0 点赞 0 评论 53 浏览
对抗训练深度实战:从 Min-Max 鲁棒优化、PGD-AT 到 TRADES 与认证鲁棒性的工程全解 一个在干净样本上 99% 准确率的卷积网络,只要被贴上肉眼不可见的对抗扰动,预测就会瞬间翻车——这是 2014 年 Goodfellow 等人揭示的"对抗样本"现象,也是深度学习从实验室走向安全敏感场景(自动驾驶、金融风控、医疗影像)时绕不开的一道坎。本文不重复"攻击与防御"的通览,而是聚焦**对抗训练(Adversarial Training, AT)这一把模型从被动防御转为主动免疫的核心工程方… 大语言模型 2026年10月08日 0 点赞 0 评论 21 浏览