[发明专利]多神经网络模型载入方法、装置、电子设备及存储介质

权利要求书

1.一种多神经网络模型载入方法，其特征在于，所述方法包括：

编译至少两个神经网络模型，并生成与所述至少两个神经网络模型对应的至少两个二进制模型文件；

将所述至少两个二进制模型文件中的一个二进制模型文件作为基础模型，使用预设的差异计算方法计算并记录所述至少两个二进制模型文件中除所述基础模型外的每个二进制模型文件与所述基础模型之间的差异，生成差异记录文件；

使用预设的压缩方法压缩所述基础模型与所述差异记录文件，并生成输入文件；

在神经网络加速器中输入所述输入文件，解压缩所述输入文件得到所述基础模型与所述差异记录文件，并在神经网络加速器中载入所述基础模型与所述差异记录文件。

2.如权利要求1所述的多神经网络模型载入方法，其特征在于，所述方法还包括：

根据所述差异记录文件修改所述基础模型的参数，以在神经网络加速器中将当前的基础模型切换至与所述修改的参数对应的神经网络模型。

3.如权利要求1所述的多神经网络模型载入方法，其特征在于，所述至少两个二进制模型文件符合神经网络加速器格式要求。

4.如权利要求1所述的多神经网络模型载入方法，其特征在于，所述使用预设的差异计算方法计算并记录所述至少两个二进制模型文件中除所述基础模型外的每个二进制模型文件与所述基础模型之间的差异包括：

以二进制格式比较所述至少两个二进制模型文件中除所述基础模型外的每个所述二进制文件与所述基础模型，记录每个所述神经网络模型的隐藏层连接和权重与所述基础模型的隐藏层连接和权重之间的差异。

5.如权利要求1所述的多神经网络模型载入方法，其特征在于，所述使用预设的压缩方法压缩所述基础模型与所述差异记录文件，并生成输入文件包括：

使用无损编码压缩方法压缩所述基础模型与所述差异记录文件，并生成输入文件。

6.如权利要求5所述的多神经网络模型载入方法，其特征在于，所述解压缩所述输入文件得到所述基础模型与所述差异记录文件包括：

使用与所述无损编码压缩方法对应的解码方法解压缩所述输入文件得到所述基础模型与所述差异记录文件。

7.如权利要求1所述的多神经网络模型载入方法，其特征在于，所述根据差异记录文件修改所述基础模型的参数包括：

根据所述差异记录文件修改所述基础模型的权重和/或隐藏层连接。

8.一种多神经网络模型载入装置，其特征在于，包括：

编译模块，用于编译至少两个神经网络模型，并生成与所述至少两个神经网络模型对应的至少两个二进制模型文件；

差异记录模块，用于将所述至少两个二进制模型文件中的一个二进制模型文件作为基础模型，使用预设的差异计算方法计算并记录所述至少两个二进制模型文件中除所述基础模型外的每个二进制模型文件与所述基础模型之间的差异，生成差异记录文件；

压缩模块，用于使用预设的压缩方法压缩所述基础模型与所述差异记录文件，并生成输入文件；

载入模块，用于在神经网络加速器中输入所述输入文件，解压缩所述输入文件得到所述基础模型与所述差异记录文件，并在神经网络加速器中载入所述基础模型与所述差异记录文件。

9.一种电子设备，其特征在于，所述电子设备包括：

存储器，存储至少一个指令；及

处理器，执行所述存储器中存储的指令以实现如权利要求1至7中任一项所述的多神经网络模型载入方法。

10.一种计算机存储介质，其上存储有计算机程序，其特征在于：所述计算机程序被处理器执行时实现如权利要求1至7中任一项所述的多神经网络模型载入方法。