[发明专利]基于熵的卷积神经网络池化方法、系统、设备及存储介质

权利要求书

1.基于熵的卷积神经网络池化方法，其特征在于，所述方法包括：

设定池化层的超参数，所述超参数包括过滤器的大小和步长；

接收池化层输入的特征数据集并通过所述过滤器以设定的步长遍历输入的特征数据集；

对于每一个批次的每一个通道，利用特征熵算法计算所述过滤器遍历的每一个池化区域内所有元素点的特征熵；

在每个池化区域中，选取特征熵最大的元素点作为该池化区域的输出结果；

将输入的所有批次的每个通道的输出结果整合在一起；及

根据超参数变换维度大小输出最终结果并传送至神经网络的下一层。

2.根据权利要求1所述的方法，其特征在于，所述特征熵算法为所述元素点在池化区域中出现的频率与包含所述元素点的池化区域在该特征图的所有池化区域中出现的频率倒数的对数的乘积。

3.根据权利要求1所述的方法，其特征在于：所述特征熵算法为所述元素点在池化区域中出现的频率与包含所述元素点的池化区域的频数相对于所有池化区域中出现个数最多的元素点所对应的池化区域中出现的频数的占比倒数的对数的乘积。

4.根据权利要求2或3所述的方法，其特征在于，所述方法还包括：

对所述特征熵算法中的对数项进行平滑处理。

5.根据权利要求2或3或4所述的方法，其特征在于，所述方法还包括：

对所述元素点在池化区域中出现的频率进行K标准化处理，所述K标准化处理包括：利用预定常数K对所述元素点在池化区域中出现的频率进行加权平均计算，所述常数K取值的范围为大于或等于0并小于或等于1。

6.基于熵的卷积神经网络池化系统，其特征在于，所述系统包括：

超参数设定模块，用于设定池化层的超参数，所述超参数包括过滤器的大小和步长；

池化层输入模块，用于接收池化层输入的特征数据集；

特征熵池化模块，用于通过所述过滤器以设定的步长遍历输入的特征数据集；对于每一个批次的每一个通道，利用特征熵算法计算所述过滤器遍历的每一个池化区域内所有元素点的特征熵，其中，所述特征熵算法为所述元素点在池化区域中出现的频率与包含所述元素点的池化区域在该特征图的所有池化区域中出现的频率倒数的对数的乘积，或所述特征熵算法为所述元素点在池化区域中出现的频率与包含所述元素点的池化区域的频数相对于所有池化区域中出现个数最多的元素点所对应的池化区域中出现的频数的占比倒数的对数的乘积；在每个池化区域中，选取特征熵最大的元素点作为该池化区域的输出结果；及

池化层输出模块，用于将输入的所有批次的每个通道的输出结果整合在一起；根据超参数变换维度大小输出最终结果并传送至神经网络的下一层。

7.根据权利要求6所述的系统，其特征在于，所述系统包括：

第一特征熵池化优化模块，用于对所述元素点在池化区域中的频率进行K标准化处理，所述K标准化处理包括：利用预定常数K对所述元素点在池化区域中的频率进行加权平均计算，所述常数K取值的范围为大于或等于0并小于或等于1。

8.根据权利要求6或7所述的系统，其特征在于，所述系统包括：

第二特征熵池化优化模块，用于对所述特征熵算法中的对数项进行平滑处理。

9.基于熵的卷积神经网络池化设备，其特征在于，所述设备包括：处理器和存储器；

所述存储器用于存储一个或多个程序指令；

所述处理器，用于运行一个或多个程序指令，用以执行如权利要求1-5任一项所述的方法。

10.一种计算机存储介质，其特征在于，所述计算机存储介质中包含一个或多个程序指令，所述一个或多个程序指令用于执行如权利要求1-5任一项所述的方法。