[发明专利]神经网络训练方法、装置、设备及存储介质有效
申请号: | 202011243227.0 | 申请日: | 2020-11-10 |
公开(公告)号: | CN112101530B | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 李辉;范佳欣 | 申请(专利权)人: | 南京集成电路产业服务中心有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 曹瑞敏 |
地址: | 210000 江苏省南京*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 装置 设备 存储 介质 | ||
1.一种神经网络训练方法,应用于集成电路的版图热点检测中,其特征在于,包括:
采用训练样本数据集对预设神经网络进行训练,获取训练中的预设神经网络的实际输出数据,所述训练样本数据集包括:至少一个训练样本,每个所述训练样本包括:样本输入数据、样本输入数据对应的期望输出数据,所述样本输入数据包括:热点版图和非热点版图;
根据所述实际输出数据和所述期望输出数据,计算获取误差函数;
采用预设的反向传播算法,根据相邻两轮的所述误差函数的值,调整所述预设神经网络的学习步长,循环执行训练,直到所述误差函数满足收敛条件完成训练;
其中,所述根据相邻两轮的所述误差函数的值,调整所述预设神经网络的学习步长,包括:
比较本轮误差函数的值与上轮误差函数的值;
若本轮误差函数的值小于上轮误差函数的值,则根据预设调整公式以及误差函数均值计算获取新的学习步长;
其中,所述根据预设调整公式以及误差函数均值计算获取新的学习步长,包括:
根据每轮训练对应的误差函数的值,计算所述误差函数均值;
根据预设调整公式、当前步长以及所述误差函数均值计算获取新的学习步长;
其中,预设调整公式为η=η0-η0/(η0+lossj)2,η0为所述当前步长,lossj为所述误差函数的均值,η为所述新的学习步长。
2.根据权利要求1所述的方法,其特征在于,所述根据所述实际输出数据和所述期望输出数据,计算获取误差函数之后,还包括:
根据所述误差函数的值,调整所述预设神经网络的训练权值;
所述循环执行训练,直到所述误差函数满足收敛条件完成训练,包括:
根据调整训练权值后的所述预设神经网络、计算相邻两轮的所述误差函数的值;
根据所述相邻两轮的所述误差函数的值,调整所述预设神经网络的学习步长,循环执行训练,直到所述误差函数满足收敛条件完成训练。
3.根据权利要求1所述的方法,其特征在于,所述采用训练样本数据集对预设神经网络进行训练之前,还包括:
确定所述预设神经网络的初始权值,其中,所述初始权值的取值范围为(-1,1)。
4.一种神经网络训练装置,其特征在于,应用于集成电路的版图热点检测中,包括:获取模块、计算模块、调整模块;
所述获取模块,用于采用训练样本数据集对预设神经网络进行训练,获取训练中的预设神经网络的实际输出数据,所述训练样本数据集包括:至少一个训练样本,每个所述训练样本包括:样本输入数据、样本输入数据对应的期望输出数据,所述样本输入数据包括:热点版图和非热点版图;
所述计算模块,用于根据所述实际输出数据和所述期望输出数据,计算获取误差函数;
所述调整模块,用于采用预设的反向传播算法,根据相邻两轮的所述误差函数的值,调整所述预设神经网络的学习步长,循环执行训练,直到所述误差函数满足收敛条件完成训练;
其中,所述调整模块,具体用于比较本轮误差函数的值与上轮误差函数的值;若本轮误差函数的值小于上轮误差函数的值,则根据预设调整公式以及误差函数均值计算获取新的学习步长;
所述调整模块,具体用于根据每轮训练对应的误差函数的值,计算所述误差函数均值;根据预设调整公式、当前步长以及所述误差函数均值计算获取新的学习步长;
其中,预设调整公式为η=η0-η0/(η0+lossj)2,η0为所述当前步长,lossj为所述误差函数的均值,η为所述新的学习步长。
5.根据权利要求4所述的装置,其特征在于,所述调整模块,还用于根据所述误差函数的值,调整所述预设神经网络的训练权值;
所述调整模块,具体用于根据调整训练权值后的所述预设神经网络、计算相邻两轮的所述误差函数的值;根据所述相邻两轮的所述误差函数的值,调整所述预设神经网络的学习步长,循环执行训练,直到所述误差函数满足收敛条件完成训练。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京集成电路产业服务中心有限公司,未经南京集成电路产业服务中心有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011243227.0/1.html,转载请声明来源钻瓜专利网。