[发明专利]一种提高网络性能和泛化能力的卷积神经网络拓扑结构

摘要

一种提高网络性能和泛化能力的卷积神经网络拓扑结构，由多个卷积神经网络分支组成，每个分支是一个基本的网络结构模型。在训练过程中，不同分支的卷积神经网络拥有不同的学习率并且可以不断调整，在每个新的训练周期的开始先进行调整。首先在基于训练反馈得到的学习率集中选择学习率种子，然后由种子生成新的学习率集来进行学习率的更新。这样可以在保持一定的网络深度的情况下，大大丰富网络的宽度结构，使得网络获得更强的泛化能力。本发明在保持一定网络深度的情况下，网络的水平结构大大丰富，网络获得更强的泛化性能。本发明在准确性，鲁棒性，收敛性，效率和方面都表现出很大的优势。

主权项

1.一种提高网络性能和泛化能力的卷积神经网络拓扑结构，有用于分别对增强后的图像数据进行训练的由N个卷积神经网络构成的卷积神经网络模块(1)，其特征在于，还包括有：概率融合模块(2)，卷积神经网络模块(1)每次训练结束都输出N个概率矩阵进入概率融合模块(2)，所述概率融合模块(2)每次接收到N个概率矩阵后，都要对N个概率矩阵中的相同位置的概率相加，得到一个新矩阵，找出该矩阵中最大概率值，并将当前次的最大概率值与上一次训练结束得到的最大概率值相减，当结果大于设定阈值时，通知卷积神经网络模块(1)进行学习率更新，当结果小于设定阈值时，卷积神经网络模块(1)以当前的学习率继续训练；决策模块(3)，卷积神经网络模块(1)进行学习率更新时，首先分别找出N个卷积神经网络输出的概率矩阵中的最大概率值输出给决策模块(3)，所述决策模块(3)在N个最大概率值中找出最大的一个最大概率值所对应的卷积神经网络的学习率；学习率更新模块(4)，在均值为1，方差为0.25的高斯函数上随机选取N个值，将决策模块(3)找到的卷积神经网络的学习率分别与随机选取的N个值相乘，得到N个新的学习率值，再随机分配给卷积神经网络模块(1)中的N个卷积神经网络继续进行下一次的训练。