[发明专利]神经网络生成、数据处理方法、装置、电子设备及介质

权利要求书

1.一种神经网络生成方法，其特征在于，在多个迭代周期的每个迭代周期中，执行：

获取当前迭代周期的第一神经网络；

基于所述第一神经网络中各个第一备选网络单元分别对应的第一重要性程度信息，确定第一目标网络单元；所述第一目标网络单元包括：至少一个卷积层；所述第一重要性程度信息用于表征所述第一备选网络单元对所述神经网络的性能的贡献度，所述神经网络的性能表征所述神经网络在满足预设资源配置条件的硬件中处理预设类型数据的能力；

利用多种预先确定的备选算子，对所述第一目标网络单元进行扩增处理，基于扩增处理后的第一目标网络单元构建扩增神经网络；

基于所述扩增神经网络，构建当前迭代周期的第二神经网络；

对最后一个迭代周期的第二神经网络进行分支合并处理，得到目标神经网络。

2.根据权利要求1所述神经网络生成方法，其特征在于，响应于当前迭代周期为首个迭代周期，所述获取当前迭代周期的第一神经网络，包括：

获取原始神经网络；

利用所述预设类型的样本数据对所述原始神经网络进行训练，得到当前迭代周期的第一神经网络。

3.根据权利要求1或2所述神经网络生成方法，其特征在于，响应于当前迭代周期非首个迭代周期，所述获取当前迭代周期的第一神经网络，包括：

获取当前迭代周期的前一迭代周期得到的第二神经网络；

利用所述预设类型的样本数据对所述前一迭代周期得到的第二神经网络进行训练，得到所述当前迭代周期的第一神经网络。

4.根据权利要求1-3任一项所述神经网络生成方法，其特征在于，所述基于所述第一神经网络中各个第一备选网络单元分别对应的第一重要性程度信息，确定第一目标网络单元之前，包括：

获取所述第一神经网络的训练损失；

基于所述训练损失、以及所述第一神经网络中各个第一备选网络单元分别对应的参数信息，确定各个第一备选网络单元分别对应的第一重要性程度信息。

5.根据权利要求4所述神经网络生成方法，其特征在于，所述参数信息包括：与所述第一备选网络单元对应卷积算子的卷积核；

所述基于所述训练损失、以及所述第一神经网络中各个第一备选网络单元分别对应的参数信息，确定各个第一备选网络单元分别对应的第一重要性程度信息，包括：

针对所述第一神经网络中的每个第一备选网络单元，基于所述训练损失、以及所述每个第一备选网络单元对应的卷积算子的卷积核中的各个卷积元素，确定各个卷积元素对应的参数显著性，所述参数显著性表征在所述神经网络中删除对应的卷积元素之后，所述神经网络的性能的变化程度；

基于所述卷积算子对应卷积核中的多个卷积元素分别对应的参数显著性，确定所述每个第一备选网络单元对应的第一重要性程度信息。

6.根据权利要求1-5任一项所述神经网络生成方法，其特征在于，所述基于所述第一神经网络中各个第一备选网络单元分别对应的第一重要性程度信息，确定第一目标网络单元，包括：

将所述重要性程度最高的第一备选网络单元确定为所述第一目标网络单元。

7.根据权利要求1-6任一项所述神经网络生成方法，其特征在于，所述利用多种预先确定的备选算子，对所述第一目标网络单元进行扩增处理，包括：

对多种所述备选算子分别进行参数随机初始化，得到多种所述备选算子分别对应的备选参数信息；

针对多种备选算子中的每种备选算子，基于所述每种备选算子对应的备选参数信息对所述第一目标网络单元进行扩增处理，生成扩增网络单元；

所述基于扩增处理后的第一目标网络单元构建扩增神经网络，包括：

将所述第一神经网络中的所述第一目标网络单元替换为对应的扩增网络单元，得到所述扩增神经网络；其中，所述扩增网络单元包含所述第一目标网络单元。