[发明专利]计算方法、计算装置、电子设备和计算机可读存储介质

权利要求书

1.一种由电子设备执行的计算方法，包括：

获得计算模型和计算数据；以及

将所述计算数据输入所述计算模型以得到计算结果；

其中，所述获得计算模型包括：

获得多个样本集；以及

利用所述多个样本集训练神经网络模型，训练完成后得到所述计算模型，所述神经网络模型包括多个运算单元，

其中，在利用所述多个样本集中的每一个样本集训练所述神经网络模型的过程中：基于所述神经网络模型的丢弃概率确定所述多个运算单元中的每个运算单元在训练过程中是否参与运算；以及获得损失函数的值，并基于所述损失函数的值更新所述丢弃概率，所述损失函数包括附加项，所述附加项与所述丢弃概率相关。

2.根据权利要求1所述的方法，其中：

所述神经网络模型还包括对应于每个运算单元的丢弃系数，所述丢弃系数基于所述丢弃概率确定，所述附加项包括所述丢弃系数；

所述基于所述神经网络模型的丢弃概率确定所述多个运算单元中的每个运算单元在训练过程中是否参与运算包括：基于所述丢弃概率确定所述每个运算单元的丢弃系数，基于所述丢弃系数确定对应的运算单元在训练过程中是否参与运算。

3.根据权利要求2所述的方法，其中：

所述丢弃系数具有第一系数值和第二系数值，所述第一系数值小于所述第二系数值，所述丢弃概率为使所述丢弃系数取第一系数值的概率；

在所述丢弃系数取所述第一系数值的情况下，与所述丢弃系数对应的运算单元不参与运算。

4.根据权利要求2所述的方法，其中：

所述附加项包括第一部分，所述第一部分为每个运算单元的丢弃系数与各自的运算时间的乘积绝对值的加和；

所述附加项还包括调节参数，所述附加项为所述调节参数与所述第一部分的乘积，其中，所述调节参数为非负常数。

5.根据权利要求4所述的方法，其中：

在所述调节参数不同的情况下，训练得到的计算模型的运行时间不同；

所述利用所述多个样本集训练神经网络模型，训练完成后得到所述计算模型还包括：

获得所述调节参数的多个取值；

基于所述多个取值中的每个取值训练得到一个计算模型，并得到每个计算模型的运行时间；

确定多个计算模型中运行时间接近预设的期望运行时间的计算模型。

6.根据权利要求2所述的方法，其中：

所述多个运算单元共用同一个丢弃概率，在训练所述神经网络模型的过程中，基于所述损失函数的值更新所述丢弃概率的值；或者

所述多个运算单元中的每个运算单元具有各自的丢弃概率，在训练所述神经网络模型的过程中，基于所述损失函数的值更新所述每个运算单元的丢弃概率的值。

7.根据权利要求1所述的方法，其中：

所述运算单元包括一个神经元或者一组神经元；

所述神经网络模型包括输入层、输出层和中间层，所述多个运算单元属于所述神经网络模型的中间层。

8.一种计算装置，包括：

获取模块，用于获得计算模型和计算数据；以及

计算模块，用于将所述计算数据输入所述计算模型以得到计算结果；

其中，所述获取模块包括：

获取单元，用于获得多个样本集；以及

训练单元，用于用所述多个样本集训练神经网络模型，训练完成后得到所述计算模型，所述神经网络模型包括多个运算单元，

其中，在利用所述多个样本集中的每一个样本集训练所述神经网络模型的过程中：基于所述神经网络模型的丢弃概率确定所述多个运算单元中的每个运算单元在训练过程中是否参与运算；以及获得损失函数的值，并基于所述损失函数的值更新所述丢弃概率，所述损失函数包括附加项，所述附加项与所述丢弃概率相关。