[发明专利]数据处理装置、确定张量存储地址的方法、设备和介质在审
申请号: | 202310370023.0 | 申请日: | 2023-04-07 |
公开(公告)号: | CN116361205A | 公开(公告)日: | 2023-06-30 |
发明(设计)人: | 曾浩伦 | 申请(专利权)人: | 昆仑芯(北京)科技有限公司 |
主分类号: | G06F12/0897 | 分类号: | G06F12/0897;G06F12/0877;G06N3/063 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 李世阳 |
地址: | 100101 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 装置 确定 张量 存储 地址 方法 设备 介质 | ||
1.一种数据处理装置,包括:
存储单元;
处理器,配置为:
根据所述存储单元的目标存储区域中的至少一个连续地址空间,进行目标操作,以便确定多个算子中目标算子的至少一个当前地址空间,其中,至少一个所述当前地址空间分别对应所述目标算子的至少一个第一待寻址张量;
根据至少一个所述第一待寻址张量的生命周期和至少一个所述当前地址空间,在所述目标存储区域中确定至少一个当前目标剩余空间,其中,至少一个所述当前目标剩余空间分别对应与所述目标算子关联的至少一个关联算子;以及
响应于确定至少一个所述当前目标剩余空间的容量之和未满足预设条件,返回至所述目标操作。
2.根据权利要求1所述的装置,其中,所述处理器还配置为:
响应于确定至少一个所述当前目标剩余空间的容量之和满足预设条件,将至少一个所述当前地址空间分别作为至少一个第一地址空间,其中,至少一个所述第一地址空间分别对应至少一个所述第一待寻址张量。
3.根据权利要求1所述的装置,其中,所述预设条件包括以下至少之一:
至少一个所述当前目标剩余空间的容量之和最大;以及
至少一个所述当前目标剩余空间的容量之和大于或等于预设容量阈值。
4.根据权利要求1所述的装置,其中,所述处理器还配置为:
根据与所述关联算子相关的至少一个所述第一待寻址张量的当前地址空间,在所述目标存储区域内确定所述关联算子的至少一个当前剩余地址空间;以及
将容量最大的所述当前剩余地址空间作为所述关联算子的所述当前目标剩余空间。
5.根据权利要求1所述的装置,其中,所述处理器还配置为:
根据与所述算子相关的至少一个张量的数据量之和,在所述存储单元中确定与所述算子对应的占用空间;以及
根据与多个所述算子中第一算子对应的占用空间,在所述存储单元中确定所述目标存储区域,其中,与所述第一算子对应的占用空间的容量大于或等于与多个所述算子中任一算子对应的占用空间的容量。
6.根据权利要求4所述的装置,其中,在所述目标算子为多个所述算子中除所述第一算子之外的算子的情况下,所述目标存储区域中存在已寻址张量,
所述处理器还配置为:
根据至少一个所述第一待寻址张量的生命周期、至少一个所述当前地址空间以及所述已寻址张量的地址空间,在所述目标存储区域中确定至少一个所述当前目标剩余空间。
7.根据权利要求4所述的装置,其中,所述处理器还配置为:
在所述存储单元中确定所述目标算子的第二待寻址张量的第二地址空间,其中,所述第二地址空间位于所述目标存储区域之外,所述第二待寻址张量的数据量大于任一所述连续地址空间的容量。
8.根据权利要求6所述的装置,其中,所述处理器还配置为:
根据所述目标存储区域和所述已寻址张量,确定至少一个所述连续地址区间。
9.一种确定张量存储地址的方法,包括:
根据存储单元的目标存储区域中的至少一个连续地址空间,进行目标操作,以便确定多个算子中目标算子的至少一个当前地址空间,其中,至少一个所述当前地址空间分别对应所述目标算子的至少一个第一待寻址张量;
根据至少一个所述第一待寻址张量的生命周期和至少一个所述当前地址空间,在所述目标存储区域中确定至少一个当前目标剩余空间,其中,至少一个所述当前目标剩余空间分别对应与所述目标算子关联的至少一个关联算子;以及
响应于确定至少一个所述当前目标剩余空间的容量之和未满足预设条件,返回至所述目标操作。
10.根据权利要求9所述的方法,还包括:
响应于确定至少一个所述当前目标剩余空间的容量之和满足预设条件,将至少一个所述当前地址空间分别作为至少一个第一地址空间,其中,至少一个所述第一地址空间分别对应至少一个所述第一待寻址张量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于昆仑芯(北京)科技有限公司,未经昆仑芯(北京)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310370023.0/1.html,转载请声明来源钻瓜专利网。