差分隐私

模型提取与盗取攻击深度实战:从黑盒 Prediction API 到替代模型克隆与参数反解的安全工程

机器学习即服务(MLaaS)把训练好的模型包装成一个"提问—返回预测"的 API:你传入一条样本,它吐回类别标签或置信度。这种**黑盒**便利的背后藏着一条被长期低估的攻击面——**模型提取(Model Extraction)/ 模型盗取(Model Theft)**:攻击者仅凭查询权限,就能重建出与原模型功能等价、甚至参数完全一致的克隆,从而免费"白嫖"商业模型、绕开付费墙、或为后续对抗攻击铺路…

成员推断攻击深度实战:从影子模型、攻击分类器到差分隐私防御的隐私安全工程

成员推断攻击(Membership Inference Attack, MIA)是机器学习隐私领域最基础、也最容易被低估的一类攻击:给定一条样本 x 和黑盒访问的目标模型 f,攻击者要判断 x 是否出现在 f 的训练集里。这件事听起来无害,但它直接戳破了「模型只是学到了泛化规律、不会记住具体训练样本」的幻觉。一旦能稳定判定某条数据「是否被训练过」,就意味着医疗记录、人脸、对话历史等敏感信息可从已发…