[发明专利]数据处理方法、装置、设备及存储介质有效
申请号: | 202111291162.1 | 申请日: | 2021-11-03 |
公开(公告)号: | CN113722669B | 公开(公告)日: | 2022-01-21 |
发明(设计)人: | 陈庆;杨仍才;袁庆;杨宇;王斌;潘于 | 申请(专利权)人: | 海光信息技术股份有限公司 |
主分类号: | G06F17/16 | 分类号: | G06F17/16;G06F9/30;G06F9/38 |
代理公司: | 北京市柳沈律师事务所 11105 | 代理人: | 彭久云;罗莎 |
地址: | 300392 天津市滨海新区华苑产*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 设备 存储 介质 | ||
本公开提供了一种应用于矩阵运算的数据处理方法、装置、设备和存储介质。该数据处理方法包括:确定存储有第一矩阵的至少一个第一向量寄存器和存储有第二矩阵的至少一个第二向量寄存器,第一矩阵包括多个第一操作数据,第二矩阵包括多个第二操作数据;获取第一数据选择信息和第二数据选择信息;基于第一数据选择信息,从多个第一操作数据中选择至少一个第一操作数据,以得到至少一个第一目标操作数据;基于第二数据选择信息,从多个第二操作数据中选择至少一个第二操作数据,以得到至少一个第二目标操作数据。该数据处理方法充分利用了矩阵特性,在线程之间有效地复用数据,大大减少了数据的读取次数,降低了功耗。
技术领域
本公开的实施例涉及一种数据处理方法、数据处理装置、数据处理设备及计算机可读存储介质。
背景技术
图形处理器(GPU,graphic process unit)中包括大量数据处理单元,每个数据处理单元是单指令多数据流(SIMD,Single-Instruction-Multiple-Data)结构,SIMD可以通过执行一条指令同时控制多个线程上执行相同的操作,每个SIMD结构中都有其专用的一组向量寄存器和大量可并行执行的运算单元,例如乘法单元。因为SIMD结构具有高度的并行性,所以SIMD结构被广泛应用于矩阵运算。
发明内容
本公开至少一实施例提供一种数据处理方法,应用于矩阵运算,包括:确定存储有第一矩阵的至少一个第一向量寄存器和存储有第二矩阵的至少一个第二向量寄存器,其中,第一矩阵包括多个第一操作数据,第二矩阵包括多个第二操作数据;获取第一数据选择信息和第二数据选择信息;基于第一数据选择信息,从多个第一操作数据中选择至少一个第一操作数据,以得到至少一个第一目标操作数据,将至少一个第一目标操作数据,以第二矩阵的第二矩阵维数为倍数,提供至多个运算器以确定与多个运算器一一对应的多个第一乘法因子;基于第二数据选择信息,从多个第二操作数据中选择至少一个第二操作数据,以得到至少一个第二目标操作数据,将至少一个第二目标操作数据,以第一矩阵的第一矩阵维数为倍数,提供至多个运算器以确定与多个运算器一一对应的多个第二乘法因子,其中,第一矩阵维数和第二矩阵维数均为正整数,且第一矩阵维数的类型和第二矩阵维数的类型不相同。
例如,在本公开至少一实施例提供的数据处理方法中,至少一个第一目标操作数据包括M个第一目标操作数据,多个运算器包括P个运算器组,每个运算器组包括M个运算器,第二矩阵维数为P,M和P均为正整数,将至少一个第一目标操作数据,以第二矩阵的第二矩阵维数为倍数,提供至多个运算器以确定与多个运算器一一对应的多个第一乘法因子,包括:将M个第一目标操作数据复制P份,以得到P个第一目标操作数据组,其中,每个第一目标操作数组包括M个第一目标操作数据;将P个第一目标操作数据组分别提供至P个运算器组,以确定多个第一乘法因子,其中,每个运算器组的M个运算器对应的M个第一乘法因子分别为M个第一目标操作数据。
例如,在本公开至少一实施例提供的数据处理方法中,至少一个第二目标操作数据包括P个第二目标操作数据,多个运算器包括P个运算器组,每个运算器组包括M个运算器,第一矩阵维数为M,M和P均为正整数,将至少一个第二目标操作数据,以第一矩阵的第一矩阵维数为倍数,提供至多个运算器以确定与多个运算器一一对应的多个第二乘法因子,包括:将P个第二目标操作数据复制M份,以得到P个第二目标操作数据组,其中,每个第二目标操作数组与一个第二目标操作数据对应,且包括相同的M个第二目标操作数据,将P个第二目标操作数据组分别提供至P个运算器组,以确定多个第二乘法因子,其中,每个运算器组中的M个运算器对应的M个第二乘法因子相同且为每个运算器组对应的第二目标操作数据组中的第二目标操作数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于海光信息技术股份有限公司,未经海光信息技术股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111291162.1/2.html,转载请声明来源钻瓜专利网。