[发明专利]存储方法及装置、运算方法及装置在审
申请号: | 201910197520.9 | 申请日: | 2019-03-15 |
公开(公告)号: | CN111694849A | 公开(公告)日: | 2020-09-22 |
发明(设计)人: | 不公告发明人 | 申请(专利权)人: | 上海寒武纪信息科技有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/2455;G06F16/28;G06F3/06 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 201306 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储 方法 装置 运算 | ||
1.一种存储方法,其特征在于,所述方法包括:
查询模型库中是否存在待存储的神经网络模型,获得查询结果;
根据所述查询结果确定所述神经网络模型的模型引用次数;
将所述神经网络模型存储到与所述模型引用次数对应的存储器中,其中,所述存储器包括多种,各种存储器具有不同的存取速度。
2.根据权利要求1所述的方法,其特征在于,所述查询模型库中是否存在待存储的神经网络模型,获得查询结果,包括:
获取所述神经网络模型的格式化文本,所述格式化文本包括所述神经网络模型被编译前的格式化文本;
确定所述模型库中是否存在相同的格式化文本;
在模型库中不存在相同的格式化文本时,确定所述查询结果为模型库中不存在所述神经网络模型;或
在模型库中存在相同的格式化文本时,确定所述查询结果为模型库中存在所述神经网络模型。
3.根据权利要求1所述的方法,其特征在于,所述查询模型库中是否存在待存储的神经网络模型,获得查询结果,包括:
根据所述神经网络模型的标识信息查询所述模型库中是否存储有所述神经网络模型;
在所述模型库中存在与所述神经网络模型的标识信息相同的标识信息时,确定所述查询结果为所述模型库中存在所述神经网络模型。
4.根据权利要求1所述的方法,其特征在于,所述根据所述查询结果确定所述神经网络模型的模型引用次数,包括:
在所述查询结果为所述模型库中不存在所述神经网络模型时,将所述模型调用次数确定为第一预设值。
5.根据权利要求4所述的方法,其特征在于,所述将所述神经网络模型存储到与所述模型引用次数对应的存储器中,包括:
将所述神经网络模型存储到与第一预设值对应的存储器中,并在所述模型库中记录所述神经网络模型的模型信息,所述模型信息包括格式化文本、存储所述神经网络模型的存储器、所述模型调用次数、所述神经网络模型的标识信息及它们之间的对应关系。
6.根据权利要求1所述的方法,其特征在于,所述根据所述查询结果确定所述神经网络模型的模型引用次数,还包括:
在所述查询结果为所述模型库中存在所述神经网络模型时,从模型库中获取所述神经网络模型对应的模型引用次数。
7.根据权利要求6所述的方法,其特征在于,在确定所述模型引用次数后,所述方法还包括:
对获取的模型调用次数及第二预设值进行求和处理,利用求和结果对所述模型调用次数进行更新。
8.根据权利要求7所述的方法,其特征在于,在利用求和结果对所述模型调用次数进行更新之后,所述方法还包括:
确定更新后的模型调用次数所在的阈值区间;
若更新后的模型调用次数与更新前的模型调用次数不在同一阈值区间,则将对应的神经网络模型从原来的存储器转移到新的存储器进行存储,所述新的存储器为更新后的模型调用次数所在阈值区间对应的存储器。
9.根据权利要求8所述的方法,其特征在于,所述方法还包括:
利用更新后的存储器及更新后的模型调用次数更新模型库中记录的所述神经网络模型的模型信息,其中,所述模型信息中记录有存储所述神经网络模型的存储器及所述神经网络模型的模型调用次数。
10.根据权利要求1-9任一项所述的方法,其特征在于,所述存储器包括硬盘、主存及内存中的至少两种。
11.一种运算方法,其特征在于,所述方法包括:
确定需要运行的神经网络模型;
根据模型库中的模型信息确定存储所述神经网络模型的存储器,其中,所述存储器包括多种,各种存储器具有不同的存取速度,所述模型信息记录有存储所述神经网络模型的存储器信息;
从确定的存储器中获取所述神经网络模型的数据;
将所述神经网络模型的数据发送至硬件系统,以使所述硬件系统运行所述神经网络模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海寒武纪信息科技有限公司,未经上海寒武纪信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910197520.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:运算方法、装置及相关产品
- 下一篇:无人机干扰系统、以及具有干扰功能的无人机