[发明专利]一种基于模糊密集稀疏密集算法进行图像分类的方法

权利要求书

1.一种基于模糊密集稀疏密集算法进行图像分类的方法，其特征在于，包括如下步骤：

选取LeNet-5神经网络和Alexnet神经网络作为基础网络结构，通过模糊密集稀疏密集算法对网络进行训练，利用训练好的网络对图像数据集进行分类；其中通过模糊密集稀疏密集算法对网络进行训练包括初始Dense训练阶段、Fuzzy阶段、最后Dense阶段，具体实现方式如下：

步骤1，初始Dense阶段经过训练得到初始网络权值，输入数据对网络原始结构进行训练，得到网络最优参数，再将训练得到的参数作为Fuzzy训练阶段的初始化权值；

步骤2，在Fuzzy训练阶段，先计算每一层N个网络权值W的数值总和S，然后求出每个网络权值在S中所占的比例η，即隶属度；

其中，W表示权值，N表示每层网络权值的个数，计算每一层N个网络权值W的数值总和S，求出每个网络权值在S中所占的比例η，即为隶属度，i表示前一层的神经元的编号，j表示后一层的神经元的编号；m表示前一层神经元的个数，n表示后一层神经元的个数；

初始Dense阶段到Fuzzy阶段用隶属度来判断网络权值的重要性，通过隶属度将网络权值进行分类，对网络中不重要的连接和权值进行裁剪，把网络修剪成中小网络；

步骤3，将网络中的权值重新进行迭代训练，迭代公式如下，

其中，t为迭代次数，a是表示学习率，x表示输入数据，▽f是表示哈密顿算子，权值以哈密顿算子为公差，依次递减；

步骤4，将每次权值迭代更新的数值乘以与权值相对应的隶属度，作为下一次迭代更新的初始权值，并依次完成一次Fuzzy阶段的训练；

步骤5，在最后Dense训练阶段，将裁剪的权值还原以及Fuzzy阶段训练好的网络权值作为其初始化权值，将其学习率调整为原来的使整个网络迭代训练10000以上，或者输出结果趋于稳定时，完成最后Dense阶段的训练。

2.如权利要求1所述一种基于模糊密集稀疏密集算法进行图像分类的方法，其特征在于：步骤1中初始Dense阶段的网络参数训练与初始化和DSD算法训练过程相同。

3.如权利要求1所述一种基于模糊密集稀疏密集算法进行图像分类的方法，其特征在于：步骤2中利用模糊控制和k均值相结合的方法区分网络中不重要的连接和权值，具体实现方式为：首先随机取多个权值点，再随机取多个权值为中心点，通过反复训练，将所有的权值分为以随机取点为中心的多个区域，从而区分出使用频率低和计算影响很小的网络权值，即不重要的连接和权值。