[发明专利]基于热力图、逆向工程和模型剪枝的后门攻击防御方法有效
| 申请号： | 202110449810.5 | 申请日： | 2021-04-25 |
| 公开（公告）号： | CN113111349B | 公开（公告）日： | 2022-04-29 |
| 发明（设计）人： | 陈艳姣;龚雪鸾;徐文渊;李晓媛;彭艺欣 | 申请（专利权）人： | 浙江大学 |
| 主分类号： | G06F21/56 | 分类号： | G06F21/56;G06K9/62;G06N3/08 |
| 代理公司： | 北京睿智保诚专利代理事务所(普通合伙) 11732 | 代理人： | 韩迎之 |
| 地址： | 310058 浙江*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于热力图、逆向工程和模型剪枝的后门攻击防御方法，涉及神经网络模型剪枝领域。本发明确定目标神经网络中每一类别的后门触发器，通过离群检测点算法比较所述后门触发器的L1范式，并确定目标标签，作为目标标签数据；对所述目标神经网络的类别进行模型反演计算出相应数据集，根据所述数据集绘制热力图，根据所述热力图确定所述后门触发器的最佳位置；向所述目标神经网络依次输入目标标签数据，根据输入目标标签数据的权值、激活值，筛选出所述目标神经网络中目标神经元；根据目标神经元，对目标神经网络进行模型剪枝。本发明可以有效防御基于随机型触发器和基于模型依赖型触发器的后门攻击。 | ||
| 搜索关键词： | 基于 力图 逆向 工程 模型 剪枝 后门 攻击 防御 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于浙江大学，未经浙江大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110449810.5/，转载请声明来源钻瓜专利网。
