[发明专利]神经网络的处理方法、装置、电子设备和存储介质

说明书

本申请公开了神经网络的处理方法、装置、电子设备和存储介质，涉及深度学习、语音技术等领域。具体实现方案为：根据神经网络的非线性激活函数的第一输入信息查询映射表，确定与第一输入信息匹配的目标输入信息，以及与目标输入信息对应的目标输出信息，并获取非线性激活函数的变化趋势特征，以根据目标输入信息、目标输出信息、第一输入信息，以及变化趋势特征，确定非线性激活函数中与第一输入信息对应的第一输出信息。由此，结合查表法，确定非线性激活函数中与输入信息对应的输出信息，可以降低计算的复杂度，从而提升非线性激活函数的计算效率。

技术领域

本申请涉及深度学习、语音技术等AI(Artificial Intelligence，人工智能)领域，尤其涉及神经网络的处理方法、装置、电子设备和存储介质。

背景技术

语音芯片和NPU(Network Processing Unit，神经网络单元)的设计中，包含大量的神经网络运算。为了提升神经网络的表达能力，可以通过激活函数增加神经网络的非线性。常见的非线性激活函数比如sigmoid函数和tanh函数是需要进行浮点的超越函数运算的。

目前使用标准浮点库进行上述非线性激活函数的计算，在计算过程中，由于需要计算超越函数，通常需要400-1000个CPU(Central Processing Unit，中央处理器)时钟周期才能完成超越函数的运算。然而，神经网络中会用到大量的sigmoid函数和tanh函数，采用上述方式计算非线性激活函数，不仅需要占用大量的内存，而且计算效率较低。

发明内容

本申请提供了一种用于神经网络的处理方法、装置、电子设备和存储介质。

根据本申请的一方面，提供了一种神经网络的处理方法，包括：

获取神经网络的非线性激活函数的第一输入信息；

根据所述第一输入信息查询映射表，确定与所述第一输入信息匹配的目标输入信息，以及与所述目标输入信息对应的目标输出信息；

获取所述非线性激活函数的变化趋势特征；

根据所述目标输入信息、目标输出信息、所述第一输入信息，以及所述变化趋势特征，确定所述非线性激活函数中与所述第一输入信息对应的第一输出信息。

根据本申请的另一方面，提供了一种神经网络的处理装置，包括：

第一获取模块，用于获取神经网络的非线性激活函数的第一输入信息；

第一确定模块，用于根据所述第一输入信息查询映射表，确定与所述第一输入信息匹配的目标输入信息，以及与所述目标输入信息对应的目标输出信息；

第二获取模块，用于获取所述非线性激活函数的变化趋势特征；

第二确定模块，用于根据所述目标输入信息、目标输出信息、所述第一输入信息，以及所述变化趋势特征，确定所述非线性激活函数中与所述第一输入信息对应的第一输出信息。

根据本申请的又一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本申请上述一方面提出的神经网络的处理方法。

根据本申请的再一方面，提供了一种计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行本申请上述一方面提出的神经网络的处理方法。

根据本申请的还一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现本申请上述一方面提出的神经网络的处理方法。