[发明专利]数据处理方法、装置、设备及存储介质在审
申请号: | 202210023600.4 | 申请日: | 2022-01-10 |
公开(公告)号: | CN114548388A | 公开(公告)日: | 2022-05-27 |
发明(设计)人: | 曹文慧;杨超;马越;钟辉 | 申请(专利权)人: | 北京达佳互联信息技术有限公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 北京太合九思知识产权代理有限公司 11610 | 代理人: | 孙明子;刘戈 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 | ||
本公开提供一种数据处理方法、装置、设备及存储介质,该方法应用于特征向量处理模块,特征向量处理模块搭载于用于运行神经网络的计算设备中,该方法包括:响应于针对特征向量处理模块的第一指令,获取目标计算单元在第一指令下的计算任务信息;根据计算任务获取与计算任务相关的特征数据以及用于配置目标计算单元的网络参数;通过网络参数配置得到的目标计算单元对特征数据进行向量计算处理,得到计算任务信息的处理结果。通过将神经网络中各种类型的向量计算抽象为适用于神经网络中各种向量计算子任务的向量计算单元,提高向量计算单元的通用性,提升向量计算单元在处理各种向量计算时的灵活性,有效降低计算资源浪费。
技术领域
本公开涉及数据处理技术领域,尤其涉及一种数据处理方法、装置、设备及存储介质。
背景技术
随着神经网络的大规模应用,出现了针对神经网络的专用芯片,用于完成神经网络的计算处理过程,以加速神经网络的计算处理过程。专用芯片包括用于处理矩阵乘法以及卷积计算等计算量占比较高的矩阵处理单元,以及用于处理神经网络中其他向量计算的向量处理单元。
相关技术中,向量处理单元目前主要通过数字信号处理器(Digital SignalProcess,DSP)或者针对神经网络中向量计算设计的定制化单元来实现。DSP的设计结构较为复杂,DSP的向量计算效率较差,且存在较多闲置计算资源,导致计算资源浪费。而定制化单元往往需要按照神经网络所需的向量计算过程进行定制化设计,灵活性差,应用场景较少,造成计算资源浪费。这里的计算资源是指专用芯片中包含的各定制化单元或DSP的计算能力。
发明内容
本公开提供一种数据处理方法、装置、设备及存储介质,以至少解决相关技术中计算资源浪费的问题。本公开的技术方案如下:
根据本公开实施例的第一方面,提供一种数据处理方法,应用于特征向量处理模块,特征向量处理模块搭载于用于运行神经网络的计算设备中,包括:
响应于针对特征向量处理模块的第一指令,获取目标计算单元在第一指令下的计算任务信息,目标计算单元包括特征向量处理模块中包含的多个向量计算单元中的一个或多个,多个向量计算单元分别用于实现各自对应的向量计算子任务;
根据计算任务信息获取与计算任务相关的特征数据以及用于配置目标计算单元的网络参数;
通过网络参数配置得到的目标计算单元对特征数据进行向量计算处理,得到计算任务信息的处理结果。
在一可选实施例中,特征向量处理模块还包括与多个向量计算单元中一个或多个向量计算单元相连的指令译码单元。
获取目标计算单元在第一指令下的计算任务信息,包括:通过指令译码单元获取第一指令中包含的目标计算类型;确定多个向量计算单元中与目标计算类型匹配的目标计算单元;基于目标计算类型以及目标计算单元生成用于指示计算任务信息的任务执行指令。
在一可选实施例中,基于目标计算类型以及目标计算单元生成用于指示计算任务信息的任务执行指令,包括:
通过指令译码单元获取第一指令中包含的存储空间地址,存储空间地址用于指示包含特征数据和/或网络参数的存储空间;基于存储空间地址以及目标计算类型生成在计算任务信息中用于调用存储访问单元的第一调用指令,并将第一调用指令发送给存储访问单元;基于目标计算类型生成用于调用目标计算单元的第二调用指令,并将第二调用指令并发送给目标计算单元。
在一可选实施例中,特征向量处理模块还包括与多个向量计算单元中一个或多个向量计算单元相连的存储访问单元。
根据计算任务获取与计算任务相关的特征数据以及用于配置目标计算单元的网络参数,包括:通过存储访问单元从第一调用指令中获取存储空间地址;从存储空间地址指示的存储空间中获取与计算任务相关的特征数据以及网络参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京达佳互联信息技术有限公司,未经北京达佳互联信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210023600.4/2.html,转载请声明来源钻瓜专利网。