[发明专利]模型提取攻击的动态防御方法、系统、介质、设备及应用有效
| 申请号： | 202011030540.6 | 申请日： | 2020-09-27 |
| 公开（公告）号： | CN112269988B | 公开（公告）日： | 2022-10-04 |
| 发明（设计）人： | 李晖;李效光;闫皓楠;王靖仁;王瑞;戴睿;赵兴文;李凤华 | 申请（专利权）人： | 西安电子科技大学 |
| 主分类号： | G06F21/55 | 分类号： | G06F21/55;G06F21/62;G06N3/08;G06N20/00 |
| 代理公司： | 西安长和专利代理有限公司 61227 | 代理人： | 黄伟洪 |
| 地址： | 710071 陕西省*** | 国省代码： | 陕西;61 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明属于网络安全技术领域，公开了一种模型提取攻击的动态防御方法、系统、介质、设备及应用，使用MLaaS，在线上部署待保护的智能模型；引入差分隐私技术，设定隐私预算，应用到模型中；模型收到请求后，生成正常应答，同时设定模型信息泄漏程度；使用差分隐私技术生成噪声来扰动模型应答，生成带噪回复；监听模型收到的请求和给出的带噪回复，与训练数据集对比计算得出模型因接收到该次请求后导致的信息泄漏程度；计算模型信息泄漏程度计值；将信息泄漏程度代入隐私预算的适应性分配算法；将计算得到的新隐私预算输入给差分隐私技术。本发明能够根据模型信息泄漏程度自适应地调整所加噪声大小，保证模型安全性的同时提升了模型的性能。 | ||
| 搜索关键词： | 模型 提取 攻击 动态 防御 方法 系统 介质 设备 应用 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于西安电子科技大学，未经西安电子科技大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202011030540.6/，转载请声明来源钻瓜专利网。
