[发明专利]存储方法及装置、运算方法及装置

说明书

本公开涉及一种存储方法及装置、运算方法及装置，所述装置包括控制器单元，所述控制器单元包括：指令缓存单元、指令处理单元和存储队列单元；所述指令缓存单元，用于存储所述人工神经网络运算关联的计算指令；所述指令处理单元，用于对所述计算指令解析得到多个运算指令；所述存储队列单元，用于存储指令队列，该指令队列包括：按该队列的前后顺序待执行的多个运算指令或计算指令。通过以上方法，本公开可以提高装置在进行神经网络模型的运算时的运算效率。

技术领域

本公开涉及信息处理技术领域，尤其涉及一种存储方法及装置、运算方法及装置。

背景技术

随着信息技术的不断发展和人们日益增长的需求，人们对信息及时性的要求越来越高了。目前，终端对信息的获取以及处理均是基于通用处理器获得的。在实践中发现，这种基于通用处理器运行软件程序来处理信息的方式，受限于通用处理器的运行速率及数据的调用速率，特别是在通用处理器负荷较大的情况下，信息处理效率较低、时延较大。

因此，急需提出一种新的技术方案以提高信息处理效率、减小时延。

发明内容

有鉴于此，本公开提出了一种存储方法，所述方法包括：

查询模型库中是否存在待存储的神经网络模型，获得查询结果；

根据所述查询结果确定所述神经网络模型的模型引用次数；

将所述神经网络模型存储到与所述模型引用次数对应的存储器中，其中，所述存储器包括多种，各种存储器具有不同的存取速度。

在一种可能的实施方式中，所述查询模型库中是否存在待存储的神经网络模型，获得查询结果，包括：

获取所述神经网络模型的格式化文本，所述格式化文本包括所述神经网络模型被编译前的格式化文本；

确定所述模型库中是否存在相同的格式化文本；

在模型库中不存在相同的格式化文本时，确定所述查询结果为模型库中不存在所述神经网络模型；或

在模型库中存在相同的格式化文本时，确定所述查询结果为模型库中存在所述神经网络模型。

在一种可能的实施方式中，所述查询模型库中是否存在待存储的神经网络模型，获得查询结果，包括：

根据所述神经网络模型的标识信息查询所述模型库中是否存储有所述神经网络模型；

在所述模型库中存在与所述神经网络模型的标识信息相同的标识信息时，确定所述查询结果为所述模型库中存在所述神经网络模型。

在一种可能的实施方式中，所述根据所述查询结果确定所述神经网络模型的模型引用次数，包括：

在所述查询结果为所述模型库中不存在所述神经网络模型时，将所述模型调用次数确定为第一预设值。

在一种可能的实施方式中，所述将所述神经网络模型存储到与所述模型引用次数对应的存储器中，包括：

将所述神经网络模型存储到与第一预设值对应的存储器中，并在所述模型库中记录所述神经网络模型的模型信息，所述模型信息包括格式化文本、存储所述神经网络模型的存储器、所述模型调用次数、所述神经网络模型的标识信息及它们之间的对应关系。

在一种可能的实施方式中，所述根据所述查询结果确定所述神经网络模型的模型引用次数，还包括：

在所述查询结果为所述模型库中存在所述神经网络模型时，从模型库中获取所述神经网络模型对应的模型引用次数。

在一种可能的实施方式中，在确定所述模型引用次数后，所述方法还包括：

对获取的模型调用次数及第二预设值进行求和处理，利用求和结果对所述模型调用次数进行更新。