[发明专利]一种模型数据的存储方法、装置、存储介质及电子设备

说明书

本说明书公开了一种模型数据的存储方法、装置、存储介质及电子设备。所述模型数据的存储方法包括：接收模型数据的存储请求并获取模型数据，确定所述模型数据的属性信息，根据所述属性信息，确定所述模型数据对应的存储位置，若所述存储位置位于所述AI加速器的本地存储单元，则确定与所述属性信息相匹配的压缩方式，作为目标压缩方式，通过所述目标压缩方式对所述模型数据进行压缩，并将压缩后的模型数据存储在所述本地存储单元中的所述存储位置，以及若所述存储位置位于所述AI加速器的远端存储单元，则将所述模型数据存储在所述远端存储单元中的所述存储位置。

技术领域

本说明书涉及计算机技术领域，尤其涉及一种模型数据的存储方法、装置、存储介质及电子设备。

背景技术

人工智能（Artificial Intelligence，AI）加速器是一类专门的硬件加速器，旨在对诸如神经网络模型等人工智能应用进行加速，在通过AI加速器对模型进行训练的过程中，需要对模型数据进行存储以及访问。

对于一些较大的模型来说，通常需要在训练的过程中采用模型压缩技术对其进行压缩，从而减少占用的计算机资源，提高模型的训练效率。

然而，目前通常采用模型量化的方式对模型数据进行压缩从而减少对内存空间的占用，但是这种方式无法充分利用不同存储单元的特性，发挥不同存储单元的优势，导致模型训练的过程中对数据进行压缩以及存储的过程需要耗费大量时间，对模型训练的效率提升有限。

因此，如何在模型训练的过程中充分利用不同的存储单元，提升模型的训练过程中对数据的访存效率，进一步提升模型的训练效率，是一个亟待解决的问题。

发明内容

本说明书提供一种模型数据的存储方法、装置、存储介质及电子设备，以部分的解决现有技术存在的上述问题。

本说明书采用下述技术方案：

本说明书提供了一种模型数据的存储方法，包括：

接收模型数据的存储请求并获取模型数据；

确定所述模型数据的属性信息；

根据所述属性信息，确定所述模型数据对应的存储位置；

若所述存储位置位于所述AI加速器的本地存储单元，则确定与所述属性信息相匹配的压缩方式，作为目标压缩方式，通过所述目标压缩方式对所述模型数据进行压缩，并将压缩后的模型数据存储在所述本地存储单元中的所述存储位置，以及

若所述存储位置位于所述AI加速器的远端存储单元，则将所述模型数据存储在所述远端存储单元中的所述存储位置。

可选地，在确定所述模型数据的属性信息之前，所述方法还包括：

基于所述模型数据的数据量以及所述AI加速器对应接收单元当前的空闲程度，判断是否对所述模型数据进行聚合处理；

若是，对所述模型数据进行聚合处理。

可选地，基于所述模型数据的数据量以及所述AI加速器对应接收单元当前的空闲程度，判断是否对所述模型数据进行聚合处理，具体包括：

若所述数据量小于预设阈值，和/或所述接收单元当前的空闲程度大于预设空闲程度，则对所述模型数据进行聚合处理。

可选地，确定所述模型数据的属性信息，具体包括：

基于所述模型数据对应的属性信息，对所述模型数据进行标记，所述标记用于确定所述模型数据是否允许分割、是否与其他模型数据关联、是否允许压缩以及存储位置中的至少一种。

可选地，根据所述属性信息，确定所述模型数据对应的存储位置，具体包括：

根据所述属性信息以及所述标记，生成所述模型数据对应的属性表并存储在本地；