[发明专利]基于混合神经网络的分布式系统构建方法、设备及介质

权利要求书

1.一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法在终端设备上部署经过压缩优化后的深度神经网络，在云服务器设备上部署原始的深度神经网络，若所述终端设备上压缩优化后的深度神经网络输出检测结果满足置信度的标准即可直接输出结果；若终端设备结果不能满足要求，则所述终端设备将处理后的初始特征样本传至云服务器，由所述运服务器的原始深度神经网络进一步处理后输出结果。

2.根据权利要求1所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法具体包括以下步骤：

步骤1)对训练好的深度神经网络进行网络模型压缩和权重调整的简化处理；

步骤2)在资源受限的终端设备中部署采用压缩优化的深度神经网络；

步骤3)在资源丰富的云服务器中部署原始的深度神经网络；

步骤4)在终端设备的本地深度神经网络上设置出口点；

步骤5)所述终端设备首先向本地压缩优化的深度神经网络发送采样数据并进行快速推理运算；

步骤6)所述终端设备确定本地深度神经网络的推理结果基于置信度的标准是否能够做出准确的分类；

步骤7)如果是，则对样本进行分类，并直接在终端设备上完成处理；

步骤8)如果不是，则终端设备将中间计算结果通过出口点推向云服务器，以便进行进一步的分类处理，

步骤9)所述云服务器基于终端的推送信息在高精度深度神经网络上进行最终分类决策。

3.根据权利要求1所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法的分布式系统通过分布式计算，增强了传感器融合、数据隐私和系统容错能力。

4.根据权利要求1所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法不仅可扩大神经网络的规模，还以在设备跨度上扩展。

5.根据权利要求1所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法将早期的出口点放置在终端设备中，当系统表现可信时，深度神经网络的推理执行可在本地终端设备上就完成图像分类并退出，进行快速的局部推断。

6.根据权利要求1或5所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法通过使用基于熵的确定标准，在神经网络的早期点对样本进行分类，称为早期出口点，如果在一个早期出口点，根据目标类的计算概率向量的熵，认为样本已经被可信分类。

7.根据权利要求6所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法混合神经网络的推断在按物理设备划分的阶段中使用预测出口阈值T作为对样本预测的置信度的度量，其中定义T的方法之一是在验证集上搜索T的范围，使用归一化熵的阈值作为置信条件，来决定是否在某一特定的出口点完成对样本进行分类，其中归一化熵被定义为

其中C是所有可能的标签的集合，x是一个概率向量，这个归一化熵的值在0和1之间。

8.根据权利要求7所述的一种基于混合神经网络的分布式系统构建方法，其特征在于，该方法在给定的终端设备出口点上，如果预测结果是不可信的，即：ηT，则系统会进一步进入云服务器执行分类操作。

9.一种电子设备，包括存储器和处理器，所述存储器上存储有计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1～8中任一项所述的方法。

10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1～8中任一项所述的方法。