[发明专利]一种对抗神经网络的集成方法及计算机设备在审
申请号: | 201811426216.9 | 申请日: | 2018-11-27 |
公开(公告)号: | CN109615072A | 公开(公告)日: | 2019-04-12 |
发明(设计)人: | 陈征宇;林韶军;黄河;洪章阳;李昱东;戴文艳 | 申请(专利权)人: | 长威信息科技发展股份有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 福州市鼓楼区京华专利事务所(普通合伙) 35212 | 代理人: | 林晓琴 |
地址: | 350000 福建省福州市保税*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 训练数据 生成模型 对抗 计算机设备 判别模型 神经网络 学习 神经网络模型 问题环境 逐渐增加 迭代 求解 抽象 重复 分析 | ||
本发明提供一种对抗神经网络的集成方法,包括如下步骤:1、安排从简单到复杂类别的训练数据作为示范;2、通过生成模型来搭建问题环境,输入当前类别的训练数据到生成模型,生成模型生成待解决问题;3、将待解决问题输入给判别模型,对问题进行判别和分析,产生对应的解;4、通过生成模型和判别模型对训练数据进行对抗学习;5、增加下一类别的训练数据的难度,重复步骤2至4进行下一轮迭代,直至完成所有训练数据的对抗学习,如此就集成了所有待解决问题的求解知识。本发明还提供一种计算机设备,通过对抗学习方法降低了训练数据;通过逐渐增加难度的训练和对抗神经网络模型的集成,能学习到数据的抽象规律。
技术领域
本发明涉及一种神经网络,尤其涉及一种对抗神经网络的集成方法及计算机设备。
背景技术
现在的模型结构普遍采用机器方式进行机器学习,机器学习是将待解决问题视为求输入数据到输出答案的未知函数,该函数无法人工描述或计算。传统监督学习方法是给定一组输入和输出的训练数据集,训练含有很多特征的数据集,数据集中的样本都有一个标签或目标,学习如何关联输入和输出,在许多情况下,输出很难自动收集,必须由人来提供“监督”。具体是在解决一个问题时需要提供待解决问题相关的大量有标签的训练数据,模型的输入数据与输出答案相互配对,由机器学习专家指定一个模型结构,一个模型结构具有若干可训练的参数,该参数能够表示输入数据与输出答案在空间上的一个函数族,一组参数的取值确定了函数族中的一个具体函数,模型结构是反映该问题规律性的性质。同时机器学习专家指定问题的优化目标,该优化目标是可量化、可计算地反映参数确定的模型函数与解决问题的真实函数之间的差距。之后在训练数据上执行优化方法,试图逐步改进优化目标即减小模型函数与真实函数之间的差距。训练数据除了包括与待解决问题相关的信息,还有大量无关信息和噪音,所以单个训练数据样本提供的信息有限,为了能够拟合真实函数,需要训练数据的数量够多且足够高信噪比地近似于问题的数据分布;同时训练数据样本在高维数据空间中高度稀疏,为了能在这样的空间上稳定优化,单个训练数据样本只能贡献非常微小的参数更新。当训练数据来自数据分布采样时,给定模型误差界与超出误差界的概率上界,某个模型的数据量需求的理论可参考Vapnik-Chervonenkis定理,数据量不小于O(d logd),其中d为模型的VC维数。
在机器学习过程中,要用到的训练数据需要带有标签且数量要够大,这样的训练过程比较繁琐,工作量比较大,还难以从训练数据中抽象出规律。有鉴于此,本发明针对这个特性进行研究并由此产生本发明的技术方案。
发明内容
本发明要解决的技术问题之一,在于提供一种对抗神经网络的集成方法,通过对抗学习方法降低了训练数据需求;通过逐渐增加难度的训练和对抗神经网络模型的集成,使得神经网络模型可以学习到数据的抽象规律。
本发明的问题之一,是这样实现的:
一种对抗神经网络的集成方法,对抗神经网络包括生成模型和判别模型,所述方法包括如下步骤:
步骤1、安排从简单到复杂类别的训练数据作为示范;
步骤2、通过所述生成模型来搭建一个符合当前类别的训练数据的问题环境,输入当前类别的训练数据到生成模型,所述生成模型根据该训练数据在该问题环境中生成一个待解决问题;
步骤3、将待解决问题输入给所述判别模型,并通过所述判别模型对待解决问题进行判别和分析,产生待解决问题对应的解;
步骤4、通过所述生成模型和判别模型对当前类别的训练数据进行对抗学习,通过不断地对抗学习将解收敛到一个稳定值,即学习到了当前所见训练难度的求解知识;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于长威信息科技发展股份有限公司,未经长威信息科技发展股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811426216.9/2.html,转载请声明来源钻瓜专利网。