[发明专利]神经网络模型借鉴神经认知机理和机器学习数学方法在审
申请号: | 202111310525.1 | 申请日: | 2021-11-06 |
公开(公告)号: | CN113919487A | 公开(公告)日: | 2022-01-11 |
发明(设计)人: | 陈子轩;雷铭轩;郑正;华国明;李禅;郭尚 | 申请(专利权)人: | 杭州翔毅科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06V10/764;G06V10/774 |
代理公司: | 徐州鑫鹏专利代理事务所(普通合伙) 32584 | 代理人: | 曹加燕 |
地址: | 310000 浙江省杭州市萧山区*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 模型 借鉴 神经 认知 机理 机器 学习 数学 方法 | ||
本发明提供神经网络模型借鉴神经认知机理和机器学习数学方法,涉及机器学习领域。该方法,包括以下步骤:S1:将样本信息建立样本库并储存,通过快速梯度符号法生成对抗样本,将对抗样本划分为训练集和测试集;S2:通过终身不断的迁移学习来增强对抗样本库到训练集的迁移能力;S3:通过卷积神经网络连接递归神经网络,再连接BP神经网络和朴素贝叶斯算法建立神经网络模型;S4:将对抗样本库中的目标信息进行分类形成数据表。通过快速梯度符号法生成对抗样本,视频、图、文结合,真实的场景对话,带有图像的对话,文本表达更具体,提高人工智能应用范围和观察思考与表达能力,实现通过不同结构来提高泛化。
技术领域
本发明涉及机器学习领域,具体为神经网络模型借鉴神经认知机理和机器学习数学方法。
背景技术
模拟人类实际神经网络的数学方法问世以来,人们已慢慢习惯了把这种人工神经网络直接称为神经网络。神经网络在系统辨识、模式识别、智能控制等领域有着广泛而吸引人的前景,特别在智能控制中,人们对神经网络的自学习功能尤其感兴趣,并且把神经网络这一重要特点看作是解决自动控制中控制器适应能力这个难题的关键钥匙之一。
深度神经网络(DNN)是拥有多层感知器的架构,用来解决复杂的学习问题,然而,DNN在训练和概括中面临挑战,传统的DNN互联的大量数据可能会过拟合,需要不同的训练方法来提高泛化,导致现有机器学习无法突破大数据限制,神经网络支撑解决现实人工智能问题的范围和能力不足。
发明内容
(一)解决的技术问题
针对现有技术的不足,本发明提供了神经网络模型借鉴神经认知机理和机器学习数学方法,解决了DNN互联的大量数据可能会过拟合的问题。
(二)技术方案
为实现以上目的,本发明通过以下技术方案予以实现:神经网络模型借鉴神经认知机理和机器学习数学方法,包括以下步骤:
S1:将样本信息建立样本库并储存,通过快速梯度符号法生成对抗样本,将具备不同典型特征的对抗样本分为不同类型,使用Kennard-Stone算法进行对抗样本分类,将对抗样本划分为训练集和测试集;
S2:通过终身不断的迁移学习来增强对抗样本库到训练集的迁移能力;
S3:通过卷积神经网络连接递归神经网络,再连接BP神经网络和朴素贝叶斯算法建立神经网络模型,并对神经网络模型精度进行测试,如果神经网络模型测试后识别精度不满足业务需求,则重新调整神经网络模型参数并构建神经网络模型,直至精度符合要求;
S4:通过神经网络模型识别对抗样本库,将对抗样本库中的目标信息进行分类形成数据表。
优选的,所述快速梯度符号法包括以下步骤:
a)计算出正向传播后的损失;
b)计算出图像像素的梯度;
c)沿着使损失最大化的梯度方向微移图像的像素。
优选的,所述Kennard-Stone算法包括以下步骤:
d)计算两两对抗样本之间距离,选择距离最大的两个对抗样本;
e)分别计算剩余的对抗样本与已选择的两个对抗样本之间的距离;
f)对于每个剩余对抗样本而言,其与已选对抗样本之间的最短距离被选择,然后选择这些最短距离中相对最长的距离所对应的对抗样本,作为第三个对抗样本;
g)重复步骤f),直至所选的对抗样本的个数等于事先确定的数目为止。
优选的,所述迁移学习包括终身迁移学习、在线迁移学习、深度迁移学习和对抗迁移学习。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州翔毅科技有限公司,未经杭州翔毅科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111310525.1/2.html,转载请声明来源钻瓜专利网。