[发明专利]低算力要求的神经网络分块优化方法及分块优化器

权利要求书

1.一种低算力要求的神经网络分块优化方法，其特征在于，包括：

步骤S1，分解隐层拓扑，完成隐层参数向量化；

步骤S2，根据隐层链接结构，将隐层参数形成的向量排列组成超平面；

步骤S3，在超平面的每个位置添加数据，作为超平面的初始态；

步骤S4，将超平面平分为两块区域，分别使用相同的数据集进行训练，并分别分析训练前后两块区域的数据变化程度；

步骤S5，留下变化程度较高的区域并判断该区域是否满足系统算力要求，若满足系统算力要求则进入步骤S6；否则继续重复步骤S4直至留下的变化程度较高的区域满足系统算力要求为止；

步骤S6，使用训练数据集对筛选出的区域进行训练，完成训练后若loss function满足系统要求，结束训练；反之进入步骤S7；

步骤S7，将步骤S6中满足系统算力要求的区域继续均分为两块区域，按步骤S4的方法挑选出变化较高的区域，然后从其他区域再选取相同大小的区域组成一个新的满足系统算力要求的待训练空间，继续按步骤S6的方法进行训练。

2.根据权利要求1所述的低算力要求的神经网络分块优化方法，其特征在于，所述超平面为二维超平面。

3.根据权利要求1或2所述的低算力要求的神经网络分块优化方法，其特征在于，所述步骤S3，具体为：

在超平面的每个位置添加随机生成的数据，作为超平面的初始态。

4.根据权利要求1或2所述的低算力要求的神经网络分块优化方法，其特征在于，所述步骤S7中，所述从其他区域再选取相同大小的区域组成一个新的满足系统算力要求的待训练空间的步骤，具体为：

逆向回溯至最近的区域组成一个新的满足系统算力要求的待训练空间。

5.根据权利要求1或2所述的低算力要求的神经网络分块优化方法，其特征在于，所述步骤S7中，所述从其他区域再选取相同大小的区域组成一个新的满足系统算力要求的待训练空间的步骤，具体为：

从第一次分块的另一半区域进行搜索，选取相同大小的区域组成一个新的满足系统算力要求的待训练空间。

6.一种低算力要求的神经网络分块优化器，其特征在于，包括：

第一模块，用于执行：

步骤S1，分解隐层拓扑，完成隐层参数向量化；

第二模块，用于执行：

步骤S2，根据隐层链接结构，将隐层参数形成的向量排列组成超平面；

第三模块，用于执行：

步骤S3，在超平面的每个位置添加数据，作为超平面的初始态；

第四模块，用于执行：

步骤S4，将超平面平分为两块区域，分别使用相同的数据集进行训练，并分别分析训练前后两块区域的数据变化程度；

第五模块，用于执行：

步骤S5，留下变化程度较高的区域并判断该区域是否满足系统算力要求，若满足系统算力要求则进入步骤S6；否则继续重复步骤S4直至留下的变化程度较高的区域满足系统算力要求为止；

第六模块，用于执行：

步骤S6，使用训练数据集对筛选出的区域进行训练，完成训练后若loss function满足系统要求，结束训练；反之进入步骤S7；

第七模块，用于执行：

步骤S7，将步骤S6中满足系统算力要求的区域继续均分为两块区域，按步骤S4的方法挑选出变化较高的区域，然后从其他区域再选取相同大小的区域组成一个新的满足系统算力要求的待训练空间，继续按步骤S6的方法进行训练。

7.根据权利要求6所述的低算力要求的神经网络分块优化器，其特征在于，所述超平面为二维超平面。

8.根据权利要求6或7所述的低算力要求的神经网络分块优化器，其特征在于，所述第三模块，用于执行步骤S3：

在超平面的每个位置添加随机生成的数据，作为超平面的初始态。

9.根据权利要求6或7所述的低算力要求的神经网络分块优化器，其特征在于，所述第七模块逆向回溯至最近的区域组成一个新的满足系统算力要求的待训练空间。

10.根据权利要求6或7所述的低算力要求的神经网络分块优化器，其特征在于，所述第七模块从第一次分块的另一半区域进行搜索，选取相同大小的区域组成一个新的满足系统算力要求的待训练空间。