[发明专利]神经网络处理方法、装置、电子设备和存储介质

权利要求书

1.一种神经网络处理方法，其特征在于，包括：

基于待处理的神经网络模型中的神经网络参数建立目标函数；

基于预设的分析函数对所述目标函数进行分析处理，得到分析结果；

基于所述分析结果对所述神经网络模型进行更新处理。

2.根据权利要求1所述的神经网络处理方法，其特征在于，所述基于待处理的神经网络模型中的神经网络参数建立目标函数的步骤，包括：

获取待处理的神经网络模型中的批量归一化参数、通道参数、卷积核参数和特征参数；

根据所述批量归一化参数、所述通道参数、所述卷积核参数和所述特征参数建立目标函数。

3.根据权利要求2所述的神经网络处理方法，其特征在于，所述根据所述批量归一化参数、所述通道参数、所述卷积核参数和所述特征参数建立目标函数的步骤，包括：

根据所述批量归一化参数、所述通道参数、所述卷积核参数和所述特征参数分别建立第一目标函数和/或第二目标函数；

其中，所述第一目标函数用于表征所述神经网络模型中每个输入通道的贡献程度，所述第二目标函数用于表征所述神经网络模型中每个输出通道的贡献程度。

4.根据权利要求3所述的神经网络处理方法，其特征在于，所述第一目标函数包括：

W＝n*c*k_h*k_w；

其中，Y为各所述输出通道的张量拉成的向量，该向量的大小为n*h₀*w₀，Y_i为每个输入通道的输入特征对输出通道的贡献分量，该贡献分量的大小为n*h₀*w₀，α_i和β_i为批量归一化参数，A_i为一个矩阵，该矩阵的行数为n*h₀*w₀、列数为h*w，X_i为服从正态分布的向量，该向量的大小为h*w，e为全1向量，该向量的大小为h*w；

n为输出通道的数量，c为输入通道的数量，h₀*w₀为一个输出通道的大小，h*w为一个输入特征的大小，k_h*k_w为一个卷积核的大小。

5.根据权利要求3所述的神经网络处理方法，其特征在于，所述第二目标函数包括：

Z_i＝α_i*B_i*x+β_i*B_i*e，1≤i≤n；

W＝n*c*k_h*k_w；

x＝(x₁,x₂,...,x_i,...x_c)；

其中，Z_i为一个所述输出通道的张量拉成的向量，该向量的大小为h₀*w₀，α_i和β_i为批量归一化参数，B_i为一个矩阵，该矩阵的行数为h₀*w₀、列数为c*h*w，x_i为服从正态分布的向量，该向量的大小为h*w，e为全1向量，该向量的大小为h*w；

n为输出通道的数量，c为输入通道的数量，h₀*w₀为一个输出通道的大小，h*w为一个输入特征的大小，k_h*k_w为一个卷积核的大小。

6.根据权利要求1-5任意一项所述的神经网络处理方法，其特征在于，所述基于预设的分析函数对所述目标函数进行分析处理，得到分析结果的步骤，包括：

确定对所述神经网络模型进行更新的目标值；

基于预设的分析函数和所述目标值确定所述目标函数中的神经网络参数的参数值，其中，该参数值用于对所述神经网络模型进行更新。