[发明专利]存储空间分配方法、终端设备及计算机可读存储介质在审
申请号: | 202111593326.6 | 申请日: | 2021-12-23 |
公开(公告)号: | CN114416605A | 公开(公告)日: | 2022-04-29 |
发明(设计)人: | 文博;蔡万伟 | 申请(专利权)人: | 深圳云天励飞技术股份有限公司;江苏云天励飞技术有限公司 |
主分类号: | G06F12/02 | 分类号: | G06F12/02;G06N3/04 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 左婷兰 |
地址: | 518000 广东省深圳市龙岗区园山*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储空间 分配 方法 终端设备 计算机 可读 存储 介质 | ||
1.一种存储空间分配方法,其特征在于,应用于神经网络,所述神经网络中包括多个层组,每个层组中包括连续的至少一个层,每个层组有至少一个输入端层组和至少一个输出端层组,所述方法包括:
若所述神经网络中存在与第一层组的第一输出张量具有相同负载的第二层组的第二输出张量、且所述第二层组的第二输出张量已分配有第一存储编号,则将所述第一存储编号分配给所述第一层组的第一输出张量,其中,所述第一输出张量的负载为所述第一层组的输出端层组的输出张量,存储编号用于表示第一存储空间中存储区域的先后顺序;
计算所述第一层组的第一输出张量的第一数据量;
根据所述第一数据量更新所述第一存储编号对应存储区域的大小。
2.如权利要求1所述的存储空间分配方法,其特征在于,所述方法还包括:
若所述神经网络中存在与所述第一层组的第一输出张量具有相同负载的第二层组的第二输出张量、且所述第二层组的第二输出张量未分配存储编号,或所述神经网络中不存在与所述第一层组的第一输出张量具有相同负载的第二层组的第二输出张量,则根据所述第一存储空间中的空闲存储区域为所述第一层组的第一输出张量分配第二存储编号;
根据所述第一数据量设置所述第二存储编号对应的存储区域的大小。
3.如权利要求2所述的存储空间分配方法,其特征在于,为所述第一层组的第一输出张量分配存储编号之后,所述方法还包括:
若目标张量的所有负载均已分配存储编号,则回收所述目标张量的存储编号,并释放所述目标张量的存储编号对应的存储区域,其中,所述目标张量为所述第一输出张量的驱动中任意一个输出张量。
4.如权利要求3所述的存储空间分配方法,其特征在于,所述根据第一存储空间中的空闲存储区域为所述第一层组的第一输出张量分配第二存储编号,包括:
若当前所述第一存储空间中存在已分配的存储区域,则判断当前是否存在已回收的存储编号;
若当前存在已回收的存储编号,则根据所述已回收的存储编号为所述第一输出张量分配所述第二存储编号;
若当前不存在已回收的存储编号,则将当前已分配的存储编号的下一个存储编号确定为第二存储编号。
5.如权利要求2所述的存储空间分配方法,其特征在于,所述根据第一存储空间中的空闲存储区域为所述第一层组的第一输出张量分配第二存储编号,包括:
若当前所述第一存储空间中不存在已分配的存储区域,则将起始存储编号确定为所述第一层组的第一输出张量的第二存储编号。
6.如权利要求1所述的存储空间分配方法,其特征在于,所述方法还包括:
在为所述神经网络中的每个层组的每个输出张量分配存储编号之后,根据每个存储编号对应的存储区域的大小,计算每个存储编号对应的存储区域在所述第一存储空间中的第一相对地址偏移;
根据每个存储编号对应层组的输出张量的大小,计算每个层组的每个输出张量在各自对应的存储区域中的第二相对地址偏移;
根据所述第一存储空间的起始地址、所述第一相对地址偏移和所述第二相对地址偏移,计算每个层组的每个输出张量在所述第一存储空间中的存储地址。
7.如权利要求6所述的存储空间分配方法,其特征在于,在根据所述第一存储空间的起始地址、所述第一相对地址偏移和所述第二相对地址偏移,计算每个层组的每个输出张量在所述第一存储空间中的存储地址之后,所述方法还包括:
将每个层组的每个输出张量在所述第一存储空间中的存储地址发送给神经网络处理器,以指示所述神经网络处理器计算每个存储地址对应的地址指针、并按照所述地址指针将所述存储地址存储到所述神经网络处理器内部的第二存储空间。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳云天励飞技术股份有限公司;江苏云天励飞技术有限公司,未经深圳云天励飞技术股份有限公司;江苏云天励飞技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111593326.6/1.html,转载请声明来源钻瓜专利网。