[发明专利]推理时对已训练模型的对抗性后门攻击的检测在审
| 申请号： | 202010552253.5 | 申请日： | 2020-06-17 |
| 公开（公告）号： | CN112131568A | 公开（公告）日： | 2020-12-25 |
| 发明（设计）人： | N·B·安杰尔;周亦;B·陈;A·安瓦尔;H·H·路德维希 | 申请（专利权）人： | 国际商业机器公司 |
| 主分类号： | G06F21/55 | 分类号： | G06F21/55;G06K9/62;G06N3/04;G06N20/00 |
| 代理公司： | 北京市中咨律师事务所 11247 | 代理人： | 于静;杨晓光 |
| 地址： | 美国*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及推理时对已训练模型的对抗性后门攻击的检测。提供了有助于在推理时检测对已训练模型的对抗性后门攻击的系统、计算机实现的方法和计算机程序产品。根据一个实施例，系统可以包括：存储计算机可执行组件的存储器；以及执行存储在所述存储器中的所述计算机可执行组件的处理器。所述计算机可执行组件可以包括日志组件，记录由已训练模型基于推理请求生成的预测和相应激活值。所述计算机可执行组件可以进一步包括分析组件，在推理时使用模型以基于所述预测和所述相应激活值来检测后门触发请求。在一些实施例中，所述日志组件记录来自所述已训练模型的一个或多个层的所述预测和所述相应激活值。 | ||
| 搜索关键词： | 推理 训练 模型 对抗性 后门 攻击 检测 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于国际商业机器公司，未经国际商业机器公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010552253.5/，转载请声明来源钻瓜专利网。
- 上一篇：信号识别系统
- 下一篇：用于功率电子部件的结合配对件的材料结合的装置
