[发明专利]数据处理方法和装置,处理器及数据搜索方法和装置在审
申请号: | 202010545410.X | 申请日: | 2020-06-16 |
公开(公告)号: | CN113296732A | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 叶友本;王楠;杜垠;严春宝 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F7/483 | 分类号: | G06F7/483;G06F7/544;G06N3/04;G06N3/08 |
代理公司: | 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 | 代理人: | 冯德魁;张艳梅 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 处理器 数据 搜索 | ||
本申请公开一种数据处理方法和装置,处理器,数据搜索方法和装置,计算机存储介质和电子设备,其中,数据处理方法包括:获取针对以自然常数为底数的指数函数转换后的目标指数;根据所述目标指数中浮点数部分的指数位数据、浮点数据格式结构的移码以及尾数位数据,确定用于查询幂值查询表的索引序号;在所述幂值查询表中查询与所述索引序号对应的幂值;将根据所述幂值处理的以指定底数为底数,指数为所述目标指数的处理结果,作为针对所述指数函数的处理结果;从而通过查找幂值查询表的方式获得针对指数函数的处理结果,消除递归,在保证精度的情况下,能够在减低处理时间的同时提升处理器性能。
技术领域
本申请涉及计算机技术领域,具体涉及一种数据处理方法和装置,一种处理器,数据搜索方法和装置,以及计算机存储介质和电子设备。
背景技术
随着深度学习模型深度越来越深,巨量的参数使得模型的尺寸越来越大,计算量也随之上升,实际工程应用中,大部分深度学习模型并不需要64位的浮点数精度,甚至32位。为了提升计算速度,减少模型占用空间,BF16(BFloat16)格式的浮点数应运而生,并且已经逐步成为深度学习的一种标准。
然而,BF16格式的浮点数在对指数函数的数据处理过程相对于其他数据形式的处理更加费时,因此,需要基于针对BF16格式的浮点数的指数函数的处理过程中,提升处理器的处理性能,降低处理时间。
发明内容
本申请提供一种数据处理方法,以解决现有技术中针对exp指数函数处理耗时的问题。
本申请提供一种数据处理方法,包括:
获取针对以自然常数为底数的指数函数转换后的目标指数;
根据所述目标指数中浮点数部分的指数位数据、浮点数据格式结构的移码以及尾数位数据,确定用于查询幂值查询表的索引序号;
在所述幂值查询表中查询与所述索引序号对应的幂值;
将根据所述幂值处理的以指定底数为底数,指数为所述目标指数的处理结果,作为针对所述指数函数的处理结果。
在一些实施例中,所述获取针对以自然常数为底数的指数函数转换后的目标指数,包括:
将所述以自然常数为底数的指数函数转换为,以所述指定底数的幂运算;
将所述幂运算中的指数部分拆分为所述指定底数的幂次与浮点数结构中尾数相乘表示形式的指数;
将以所述指定底数的幂次与所述浮点数结构中尾数相乘表示形式的指数确定为所述目标指数。
在一些实施例中,所述将所述以自然常数为底数的指数函数转换为,以所述指定底数的幂运算,包括:
确定所述指数函数的指数是否大于0;
若是,则将所述指数函数转换为以所述指定底数为底数,指数为自然对数倒数与所述指数函数转换前指数的乘积的幂运算。
在一些实施例中,还包括:
当所述确定所述函数的指数是否大于0为否时,则将所述指数函数转换为所述指数函数的倒数;
将所述倒数分母转换为以所述指定底数为底数,指数为自然对数倒数与所述指数函数转换前指数的乘积的幂运算。
在一些实施例中,所述根据所述目标指数中浮点数部分的指数位数据、浮点数据格式结构的移码以及尾数位数据,确定用于查询幂值查询表的索引序号,包括:
基于对所述目标指数采用BF16浮点数据格式结构的二进制表示形式,选取所述指数位数据和所述尾数位数据,以及所述BF16浮点数据格式结构的移码;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010545410.X/2.html,转载请声明来源钻瓜专利网。