[发明专利]神经网络模型处理方法、装置及终端

权利要求书

1.一种神经网络模型处理方法，其特征在于，所述方法包括：

对于神经网络模型的每个卷积层，从存储器读取当前卷积层的参数编码字符，对所述参数编码字符进行解码得到所述当前卷积层的参数，其中，所述参数编码字符为所述神经网络模型在终端上部署时，按照卷积核的分布情况对卷积核进行转换而生成的对应的编码形式；

根据所述当前卷积层的参数对所述当前卷积层进行卷积计算，得到计算结果；

对所述计算结果进行编码，将所述计算结果的编码存储至所述存储器作为所述当前卷积层的下一卷积层的参数编码字符之一。

2.根据权利要求1所述的方法，其特征在于，所述从存储器读取当前卷积层的参数编码字符，对所述参数编码字符进行解码得到所述当前卷积层的参数的步骤包括：

按照当前卷积层的层类型确定输入数据；其中，所述层类型包括第一卷积层、中间卷积层和最后卷积层；

如果确定的所述输入数据包含权重参数，从存储器读取所述当前卷积层的权重编码字符，对所述权重编码字符进行解码得到所述当前卷积层的权重参数；

如果确定的所述输入数据包含激活参数，从所述存储器读取所述当前卷积层的激活编码字符，对所述激活编码字符进行解码得到所述当前卷积层的激活参数。

3.根据权利要求2所述的方法，其特征在于，按照所述当前卷积层的层类型确定输入数据的步骤，包括：

如果所述当前卷积层的层类型为第一层卷积层，确定所述当前卷积层的输入数据包括权重参数；

如果所述当前卷积层的层类型为中间卷积层和最后卷积层，确定所述当前卷积层的输入数据包括权重参数和激活参数。

4.根据权利要求2所述的方法，其特征在于，所述对所述计算结果进行编码，将所述计算结果的编码存储至所述存储器的步骤包括：

如果所述当前卷积层的层类型属于最后卷积层，将所述计算结果存储至所述存储器；

如果所述当前卷积层的层类型不属于最后卷积层，对所述计算结果进行编码，将所述计算结果的编码存储至所述存储器作为所述当前卷积层的下一卷积层的激活编码字符。

5.根据权利要求2所述的方法，其特征在于，所述按照所述当前卷积层的层类型确定输入数据的步骤之前，还包括：

统计所述神经网络模型包含的卷积核类型的个数；

根据所述卷积核类型的个数设置编码算法和所述编码算法对应的解码算法；

采用所述编码算法对所述神经网络模型中各个卷积层的权重参数进行编码，得到各个所述卷积层的权重编码字符；

将各个所述卷积层的权重编码字符存储至所述存储器。

6.根据权利要求5所述的方法，其特征在于，对所述权重编码字符进行解码和对所述激活编码字符进行解码均采用设置的所述解码算法进行；

对所述计算结果进行编码采用设置的所述编码算法进行。

7.根据权利要求1所述的方法，其特征在于，所述对所述计算结果进行编码的步骤，包括：

将所述计算结果拆分成多个数据块；

对多个所述数据块进行编码，生成各个所述数据块对应的编码序列；

将各个所述数据块以所述编码序列的形式写入所述存储器。

8.根据权利要求1所述的方法，其特征在于，所述方法应用于可编程逻辑器件，所述存储器为双倍速率同步动态随机存储器DDR。

9.一种神经网络模型处理装置，其特征在于，所述装置包括：

解码模块，用于对于所述神经网络模型的每个卷积层，从存储器读取当前卷积层的参数编码字符，对所述参数编码字符进行解码得到所述当前卷积层的参数，其中，所述参数编码字符为所述神经网络模型在终端上部署时，按照卷积核的分布情况对卷积核进行转换而生成的对应的编码形式；

计算模块，用于根据所述当前卷积层的参数对所述当前卷积层进行卷积计算，得到计算结果；

编码模块，用于对所述计算结果进行编码，将所述计算结果的编码存储至所述存储器作为所述当前卷积层的下一卷积层的参数编码字符之一。