[发明专利]基于分布式估计算法的手写体数字图像识别深度神经网络参数优化方法及系统有效
| 申请号： | 201910309944.X | 申请日： | 2019-04-17 |
| 公开（公告）号： | CN110033089B | 公开（公告）日： | 2021-03-26 |
| 发明（设计）人： | 许庆阳;刘安邦;张承进;宋勇;张立;袁宪锋;杨润涛 | 申请（专利权）人： | 山东大学 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08 |
| 代理公司： | 济南圣达知识产权代理有限公司 37221 | 代理人： | 董雪 |
| 地址： | 264200 山东省威*** | 国省代码： | 山东;37 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于分布式估计算法的手写体数字图像识别深度神经网络参数优化方法及系统，包括：初始化种群，将种群中每一个个体解码为深度神经网络；对上述深度神经网络的分类能力进行评价；对种群中的个体优劣进行排序；随机产生掩码向量，根据掩码向量及统计学参数确定待求解变量本次迭代的概率分布模型；依据掩码向量与概率分布模型采样，生成新的种群个体；获得最优分布式估计算法个体；利用梯度优化算法，对分布式估计算法获得的深度神经网络模型进行微调，获得最优深度神经网络参数。本发明将分布式估计算法和深度神经网络的优化相结合，利用分布式估计算法的全局搜索能力，减少神经网络优化过程中对梯度信息的依赖。 | ||
| 搜索关键词： | 基于 分布式 估计 算法 手写体 数字图像 识别 深度 神经网络 参数 优化 方法 系统 | ||
【主权项】：
1.一种基于分布式估计算法的深度神经网络参数优化方法，其特征在于，包括：初始化种群，将种群中每一个个体解码为深度神经网络；对上述深度神经网络的分类能力进行评价，将分类误差作为种群中个体优劣的评价指标；对种群中的个体优劣进行排序，选取最优的前t个个体构建优势群体，并计算每个变量的统计学参数；随机产生掩码向量，根据掩码向量及统计学参数确定待求解变量本次迭代的概率分布模型；依据掩码向量与概率分布模型采样，生成新的种群个体；迭代终止，获得最优分布式估计算法个体，解码为深度神经网络模型；利用梯度优化算法，对分布式估计算法获得的深度神经网络模型进行微调，获得最优深度神经网络参数。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于山东大学，未经山东大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910309944.X/，转载请声明来源钻瓜专利网。
