差分隐私工程实战:从 ε-δ 证明到生产级数据流水线 深入拆解差分隐私的数学根基、工程实现陷阱,以及如何在生产环境中构建隐私保护数据流水线。涵盖拉普拉斯/高斯机制、隐私预算会计、平滑敏感度、DP-FL 联邦学习实战等核心内容。 隐私计算 2026年10月01日 0 点赞 0 评论 44 浏览
模型提取与盗取攻击深度实战:从黑盒 Prediction API 到替代模型克隆与参数反解的安全工程 机器学习即服务(MLaaS)把训练好的模型包装成一个"提问—返回预测"的 API:你传入一条样本,它吐回类别标签或置信度。这种**黑盒**便利的背后藏着一条被长期低估的攻击面——**模型提取(Model Extraction)/ 模型盗取(Model Theft)**:攻击者仅凭查询权限,就能重建出与原模型功能等价、甚至参数完全一致的克隆,从而免费"白嫖"商业模型、绕开付费墙、或为后续对抗攻击铺路… 大语言模型 2026年10月08日 0 点赞 0 评论 18 浏览
成员推断攻击深度实战:从影子模型、攻击分类器到差分隐私防御的隐私安全工程 成员推断攻击(Membership Inference Attack, MIA)是机器学习隐私领域最基础、也最容易被低估的一类攻击:给定一条样本 x 和黑盒访问的目标模型 f,攻击者要判断 x 是否出现在 f 的训练集里。这件事听起来无害,但它直接戳破了「模型只是学到了泛化规律、不会记住具体训练样本」的幻觉。一旦能稳定判定某条数据「是否被训练过」,就意味着医疗记录、人脸、对话历史等敏感信息可从已发… 大语言模型 2026年10月08日 0 点赞 0 评论 17 浏览