[发明专利]基于卷积神经网络的分类模型构建方法和设备有效
申请号: | 201410024775.2 | 申请日: | 2014-01-20 |
公开(公告)号: | CN104794527B | 公开(公告)日: | 2018-03-27 |
发明(设计)人: | 吴春鹏;范伟;何源;孙俊 | 申请(专利权)人: | 富士通株式会社 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司11227 | 代理人: | 朱胜,穆云丽 |
地址: | 日本神*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 卷积 神经网络 分类 模型 构建 方法 设备 | ||
1.一种基于卷积神经网络的分类模型的构建方法,所述分类模型用于图像或语音处理,所述方法包括:
卷积步骤,以随机卷积方式对图像或语音训练样本进行第一阶段训练,以得到用于卷积操作的卷积模板值,从而构建包括所述卷积模板值的分类模型,
其中,以随机卷积方式对图像或语音训练样本进行第一阶段训练进一步包括:对于至少一个当前卷积层,基于预定概率阈值以随机方式打断当前卷积层的特征图中的元素与和所述当前卷积层相邻的上一层的特征图中的元素之间的连接。
2.根据权利要求1所述的方法,还包括:
特征整合步骤,以特定整合方式对所述图像或语音训练样本进行第一阶段训练,以得到用于卷积操作的卷积模板值,从而得到包括所述卷积模板值的分类模型,
其中,以特定整合方式对所述图像或语音训练样本进行第一阶段训练进一步包括:对于至少一个当前采样层,基于与所述当前采样层相邻的上一层的多个特征图中的元素得到所述当前采样层的特征图中的元素。
3.根据权利要求2所述的方法,其中,在所述特征整合步骤中,以取最大值的特征整合方式、取最小值的特征整合方式、取中间值的特征整合方式或者以取随机值的特征整合方式从与当前采样层相邻的上一层的多个特征图中选择元素,以得到所述当前采样层的特征图中的元素。
4.根据权利要求3所述的方法,其中,在以所述随机卷积方式和所述特定整合方式对所述图像或语音训练样本进行第一阶段训练以使得所得到的卷积模板值满足第一预定条件之后,利用所述卷积模板值,在所述卷积步骤中以传统卷积方式以及在所述特征整合步骤中以所述特定整合方式对所述图像或语音训练样本继续进行第二阶段训练,以使得所得到的卷积模板值满足第二预定条件。
5.根据权利要求4所述的方法,其中,在所述第二阶段训练的特征整合步骤中所采用的特征整合方式与所述第一阶段训练的特征整合步骤中所采用的特征整合方式相同。
6.根据权利要求4所述的方法,其中,在所述第一阶段训练和所述第二阶段训练中,对于在所述特征整合步骤中未被选择的元素,当利用梯度下降算法进行后向传播时,不对未被选择的元素进行后向传播。
7.根据权利要求3所述的方法,其中,对于每个采样层,用于该采样层的所有特征图中的元素的特征整合方式是相同的。
8.根据权利要求1所述的方法,其中,对于每个卷积层,用于该卷积层上的所有特征图中的元素的预定概率阈值是相同的。
9.根据权利要求1所述的方法,其中,在所述第一阶段训练中,对于在所述卷积步骤中被打断的连接,当利用梯度下降算法进行后向传播时,不对被打断的连接进行后向传播。
10.一种基于卷积神经网络的分类模型的构建设备,所述分类模型用于图像或语音处理,所述设备包括:
卷积单元,被配置成以随机卷积方式对图像或语音训练样本进行第一阶段训练,以得到用于卷积操作的卷积模板值,从而构建包括所述卷积模板值的分类模型,
其中,以随机卷积方式对图像或语音训练样本进行第一阶段训练进一步包括:对于至少一个当前卷积层,基于预定概率阈值以随机方式打断当前卷积层的特征图中的元素与和所述当前卷积层相邻的上一层的特征图中的元素之间的连接。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于富士通株式会社,未经富士通株式会社许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410024775.2/1.html,转载请声明来源钻瓜专利网。
- 上一篇:上下部位带接头的吹尘枪
- 下一篇:色选机辊筒固定支架