[发明专利]一种用于执行向量超越函数运算的装置和方法有效
申请号: | 202010603997.5 | 申请日: | 2016-04-26 |
公开(公告)号: | CN111651200B | 公开(公告)日: | 2023-09-26 |
发明(设计)人: | 请求不公布姓名 | 申请(专利权)人: | 中科寒武纪科技股份有限公司 |
主分类号: | G06F9/30 | 分类号: | G06F9/30;G06F17/16;G06F7/544;G06F17/15 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 100191 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 执行 向量 超越 函数 运算 装置 方法 | ||
本公开提供了一种用于执行向量超越函数运算装置和方法,该装置包括:存储单元,存储向量运算指令相关的向量数据;寄存器单元,用于存储向量运算指令相关的标量数据;控制单元,用于对向量运算指令进行译码,并控制向量运算指令的运算过程;超越函数计算单元,用于对向量运算指令进行超越函数计算;其中,所述超越函数计算单元包括预处理部分和迭代计算部分,其中预处理部分对输入向量数据进行预处理,使其处于CORDIC算法能够处理的范围之内,所述迭代计算部分利用CORDIC算法对经过预处理的输入向量数据进行迭代运算,得到结果向量数据。
技术领域
本公开涉及一种计算装置,该装置可以根据指令对一组向量数据进行各种超越函数运算,能够以较高的效率得到高精确度的超越函数计算结果。本公开装置及方法在进行针对向量的超越函数运算上有着区别于传统方法的显著优势。
背景技术
超越函数,包括但不限于指数运算、对数运算和三角函数运算。这类运算区别于传统的四则运算,不是有限多项式的形式,变量之间的关系也不能用有限次的加、减、乘、除、乘方、开方来等价。其运算难度和代价远远大于传统的加减乘除。而当前的计算机领域中,确实存在着许多对一整列向量数据甚至矩阵数据进行超越函数运算的要求,例如许多机器学习算法中就需要对大量数据进行指数和对数运算。因此,就要求有一种能够针对向量数据高效实现各种超越函数计算的装置和方法。
在现有技术中,一种最常用的实现向量超越函数计算的方案是使用通用处理器。该方法通过通用寄存器堆和通用功能部件来执行通用指令,从而执行矩阵运算。然而,因为通用处理器并没有专门用于计算超越函数的运算部件,必须采用泰勒展开的形式用高次多项式来逼近得到激活函数的结果,需要多条指令的执行才能够完成整个运算。同时,通用处理器面向标量运算,在实现对于向量数据的超越函数运算时需要逐个执行,这就进一步降低了运算效率。
在另一种现有技术中,使用图形处理器(GPU)来针对向量数据进行超越函数运算,其中,通过使用通用寄存器堆和通用流处理单元执行通用SIMD指令来进行运算。该方案虽然解决了通用处理器串行计算的问题,但仍需要采用泰特展开的方式使用高次多项式来计算得到高精度的结果。同时,GPU片上缓存太小,在进行大规模超越函数运算时需要不断进行片外数据搬运,片外带宽成为了主要性能瓶颈。
在另一种现有技术中,使用专门定制的计算装置来进行向量超越函数计算,其中,使用定制的寄存器堆和定制的处理单元进行运算。然而,根据这种方法,目前已有的专用超越函数运算装置受限于寄存器堆的设计,不能够灵活地支持不同长度的向量运算。
综上所述,现有的不管是通用处理器、还是图形处理器或者其他的定制计算装置都无法进行灵活高效的向量超越函数运算,并且这些现有技术在处理矩阵乘运算问题时存在着代码量大,速度慢,效率低,片上缓存不够,支持的向量规模不够灵活等问题。
发明内容
本公开旨在提供一种用于解决向量超越函数运算任务的装置和方法,能够根据指令快速、灵活执行针对不同长度的向量数据的各种超越函数计算,即对于向量X,针对其中的每一个元素xi快速计算出相应的超越函数值yi=f(xi),其中f可以是各种超越函数,包括但不限于指数函数、对数函数、三角函数和反三角函数。
根据本公开一方面,提供了一种向量超越函数运算装置,该装置包括:
存储单元,用于存储向量运算指令相关的向量数据;
寄存器单元,用于存储向量运算指令相关的标量数据;
控制单元,用于对向量运算指令进行译码,并控制向量运算指令的运算过程;
超越函数计算单元,用于对向量运算指令进行超越函数计算;
其中,所述超越函数计算单元包括预处理部分和迭代计算部分,其中预处理部分对输入向量数据进行预处理,使其处于CORDIC算法能够处理的范围之内,所述迭代计算部分利用CORDIC算法对经过预处理的输入向量数据进行迭代运算,得到结果向量数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科寒武纪科技股份有限公司,未经中科寒武纪科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010603997.5/2.html,转载请声明来源钻瓜专利网。