[发明专利]神经网络创建方法和装置、图像处理方法和电子设备

权利要求书

1.一种神经网络创建方法，包括：

配置多个初始网络单元，所述多个初始网络单元的每个至少包括具有相同的输入端和输出端的多个网络子单元，以及与所述多个网络子单元的所述输出端连接的加权选通单元；

配置初始神经网络，所述初始神经网络至少包括所述多个初始网络单元；

基于所述神经网络的目标任务，训练所述初始神经网络，直到满足预定训练结束条件；以及

对于所述多个初始网络单元中的每一个，通过所述加权选通单元选择一个网络子单元，并且移除其他网络子单元和所述加权选通单元，以获得创建的神经网络。

2.如权利要求1所述的神经网络创建方法，其中，所述加权选通单元为所述多个网络子单元中的每一个提供对应的加权选通系数，

其中，所述训练所述初始神经网络包括：

调整所述加权选通系数，

其中，所述通过所述加权选通单元选择一个网络子单元包括：

保留其中所述对应的加权选通系数最大的一个网络子单元。

3.如权利要求1或2所述的神经网络创建方法，其中，所述一个网络子单元满足以下一个或多个条件：

所述一个网络子单元的输入和输出通道数差异小于预设阈值；

所述一个网络子单元执行深度可分离卷积；

所述一个网络子单元执行池化；

所述一个网络子单元执行神经元激活。

4.如权利要求1或2所述的神经网络创建方法，其中，所述神经网络为第二代通道重排网络，所述一个网络子单元满足第二代通道重排网络的预设规则。

5.如权利要求2所述的神经网络创建方法，其中，所述通过所述加权选通单元选择一个网络子单元表示为：

其中，B_i表示所述多个网络子单元中每一个网络子单元的输出值，d_i表示所述每一个网络子单元的加权选通系数，T表示温度参数，i是1到n之间的自然数，n是所述多个网络子单元的个数，

其中，所述训练所述初始神经网络还包括：随着训练逐步增大T。

6.一种神经网络创建装置，包括：

配置模块，用于配置多个初始网络单元，所述多个初始网络单元的每个至少包括具有相同的输入端和输出端的多个网络子单元，以及与所述多个网络子单元的所述输出端连接的加权选通单元；配置初始神经网络，所述初始神经网络至少包括所述多个初始网络单元；

训练模块，用于基于所述神经网络的目标任务，训练所述初始神经网络，直到满足预定训练结束条件；以及

创建模块，用于对于所述多个初始网络单元中的每一个，通过所述加权选通单元选择一个网络子单元，并且移除其他网络子单元和所述加权选通单元，以获得创建的神经网络。

7.如权利要求6所述的神经网络创建装置，其中，所述加权选通单元为所述多个网络子单元中的每一个提供对应的加权选通系数，

其中，所述训练模块调整所述加权选通系数，并且

其中，所述创建模块保留其中所述对应的加权选通系数最大的一个网络子单元。

8.如权利要求6或7所述的神经网络创建装置，其中，所述一个网络子单元满足以下一个或多个条件：

所述一个网络子单元的输入和输出通道数差异小于预设阈值；

所述一个网络子单元执行深度可分离卷积；

所述一个网络子单元执行池化；

所述一个网络子单元执行神经元激活。

9.如权利要求6或7所述的神经网络创建装置，其中，所述神经网络为第二代通道重排网络，所述一个网络子单元满足第二代通道重排网络的预设规则。