[发明专利]一种提升深度学习模型鲁棒性的训练方法及系统在审
申请号: | 201910599177.0 | 申请日: | 2019-07-04 |
公开(公告)号: | CN110674937A | 公开(公告)日: | 2020-01-10 |
发明(设计)人: | 刘祥龙;刘艾杉;于航;张崇智 | 申请(专利权)人: | 北京航空航天大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 11381 北京汲智翼成知识产权代理事务所(普通合伙) | 代理人: | 陈曦;陈丽 |
地址: | 100190*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种提升深度学习模型鲁棒性的训练方法及系统,其中该训练方法包括如下步骤:S1,在模型反向传播时,计算得到模型每一隐藏层神经元所需的对抗噪音,并进行存储;S2,在模型正向传播时,从噪音存储单元中取出神经元对应的对抗噪音,更新隐藏层神经元值,并继续正向传播;S3,迭代执行上述步骤S1和步骤S2共P轮,完成提升深度学习模型鲁棒性的训练;其中P为正整数。本发明在保证模型泛化能力的同时,有效提升深度学习模型对于对抗样本噪音和自然噪音的鲁棒性,改善深度学习模型在实际场景中应用时的稳定性;与此同时结合了传统的正向‑反向训练过程,有效降低了计算复杂度,大大提升了可应用性。 | ||
搜索关键词: | 神经元 噪音 鲁棒性 正向传播 隐藏层 对抗 学习 计算复杂度 存储单元 迭代执行 反向传播 实际场景 训练过程 自然噪音 传统的 应用性 正整数 正向 样本 存储 取出 更新 应用 保证 | ||
【主权项】:
1.一种提升深度学习模型鲁棒性的训练方法,其特征在于包括如下步骤:/nS1,在模型反向传播时,计算得到模型每一隐藏层神经元所需的对抗噪音,并进行存储;/nS2,在模型正向传播时,从噪音存储单元中取出神经元对应的对抗噪音,更新隐藏层神经元值,并继续正向传播;/nS3,迭代执行上述步骤S1和步骤S2共P轮,完成提升深度学习模型鲁棒性的训练;其中P为正整数。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京航空航天大学,未经北京航空航天大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910599177.0/,转载请声明来源钻瓜专利网。