[发明专利]一种数据处理方法、装置和存储介质有效
申请号: | 201811313447.9 | 申请日: | 2018-11-06 |
公开(公告)号: | CN109542512B | 公开(公告)日: | 2020-09-04 |
发明(设计)人: | 戴彦;蔡林金;丁缙;姚达;吴永坚 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F9/30 | 分类号: | G06F9/30;G06N3/04 |
代理公司: | 深圳翼盛智成知识产权事务所(普通合伙) 44300 | 代理人: | 黄威 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
获取预设卷积神经网络,所述卷积神经网络包括多层卷积层;
确定当前卷积层,并获取所述当前卷积层的输入数据和扩位通道值;
采用当前卷积层对输入数据进行特征提取,得到多个通道对应的特征信息;
对所述多个通道对应的特征信息进行累加,并对进行累加操作的通道的通道数进行统计;
若进行累加操作的通道的通道数达到所述扩位通道值的整数倍,则对当前卷积层在寄存器中的运算位数进行扩展,以对累加过程产生的数据进行存储;
在所述多个通道对应的特征信息累加完毕后,返回执行确定当前卷积层的步骤,直至所有卷积层处理完毕。
2.根据权利要求1所述的方法,其特征在于,所述若进行累加操作的通道的通道数达到所述扩位通道值的整数倍,则对当前卷积层在寄存器中的运算位数进行扩展,以对累加过程产生的数据进行存储,包括:
若进行累加操作的通道的通道数达到所述扩位通道值的整数倍,则调用扩位指令;
根据所述扩位指令对当前卷积层在寄存器中的运算位数进行扩展,以对累加过程产生的数据进行存储。
3.根据权利要求2所述的方法,其特征在于,所述扩位指令为带扩位功能的乘加指令,所述根据所述扩位指令对当前卷积层在寄存器中的运算位数进行扩展,包括:
确定当前卷积层在寄存器中的运算位数、以及允许扩展的目标运算位数;
采用所述带扩位功能的乘加指令将当前卷积层在寄存器中的运算位数扩展至所述目标运算位数。
4.根据权利要求1至3任一项所述的方法,其特征在于,获取所述当前卷积层的扩位通道值,包括:
确定所述当前卷积层的卷积核的权重值、以及输入数据的特征值取值范围;
根据所述权重值和特征值取值范围确定所述当前卷积层的扩位通道值。
5.根据权利要求4所述的方法,其特征在于,根据所述权重值和特征值取值范围确定所述当前卷积层的扩位通道值,包括:
根据所述权重值和特征值取值范围计算当前运算位数不产生溢出的最大通道数,得到所述当前卷积层的扩位通道值;或者,
从预设静态代码库中,获取与所述权重值和特征值取值范围对应的扩位通道值,得到所述当前卷积层的扩位通道值。
6.根据权利要求5所述的方法,其特征在于,所述从预设静态代码库中,获取与所述权重值和特征值取值范围对应的扩位通道值,得到所述当前卷积层的扩位通道值之前,还包括:
获取多组样本的权重值和特征值取值范围;
根据每一组样本的权重值和特征值取值范围计算预设运算位数不产生溢出的最大通道数,得到每一组样本对应的扩位通道值;
建立每一组样本的权重值、特征值取值范围和扩位通道值的对应关系,并将所述对应关系保存至静态代码库中。
7.根据权利要求5所述的方法,其特征在于,所述根据所述权重值和特征值取值范围计算当前运算位数不产生溢出的最大通道数,得到所述当前卷积层的扩位通道值,包括:
计算当前运算位数能表示的最大数值范围;
根据特征值取值范围确定最大特征值;
对所述最大特征值和权重值进行卷积运算,得到当前卷积层中每一通道的最大值;
根据所述每一通道的最大值,计算在所述最大数值范围内所能容纳的最大通道数;
根据计算得到的最大通道数确定所述当前卷积层的扩位通道值。
8.根据权利要求7所述的方法,其特征在于,所述根据计算得到的最大通道数确定所述当前卷积层的扩位通道值,包括:
将计算得到的最大通道数作为所述当前卷积层的扩位通道值;或者,
按照预测策略对计算得到的最大通道数进行细粒度调整,得到所述当前卷积层的扩位通道值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811313447.9/1.html,转载请声明来源钻瓜专利网。