[发明专利]用于神经网络的数据处理方法和装置

说明书

本申请实施例公开了用于神经网络的数据处理方法和装置。神经网络中设置有至少一个激励函数。该方法的一具体实施方式包括：响应于获取当前数据的激励函数是目标函数，根据目标函数与预设函数之间的换算关系，将当前数据转换为预设函数的输入数据；在预设函数对应的查找表中，查找到以输入数据为输入的预设函数的第一输出数据；根据换算关系和第一输出数据，转换得到以当前数据为输入的目标函数的第二输出数据；输出第二输出数据。该实施方式可以通过预设函数来表达目标函数，从而免去为目标函数创建对应的查找表，进而有助于减低对存储空间的占用。而且在计算不同激励函数时，可以减少查找表的更换，有利于提升处理性能。

技术领域

本申请实施例涉及人工智能技术领域，具体涉及用于神经网络的数据处理方法和装置。

背景技术

人工神经网络(Artificial Neural Networks，ANNs))是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。一般简称为神经网络或类神经网络。

神经网络是一种运算模型，由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接的信号的加权值，称之为权重，这相当于人工神经网络的记忆。网络的输出则依据网络的连接方式、权重值和激励函数的不同而不同。

发明内容

本申请实施例提出了用于神经网络的数据处理方法和装置。

第一方面，本申请实施例提出了一种用于神经网络的数据处理方法，神经网络中设置有至少一个激励函数，包括：响应于获取当前数据的激励函数是目标函数，根据目标函数与预设函数之间的换算关系，将当前数据转换为预设函数的输入数据；在预设函数对应的查找表中，查找到以输入数据为输入的预设函数的第一输出数据；根据换算关系和第一输出数据，转换得到以当前数据为输入的目标函数的第二输出数据；输出第二输出数据。

在一些实施例中，目标函数包括sigmoid非线性函数，预设函数包括tanh双曲正切函数；以及根据目标函数与预设函数之间的换算关系，将当前数据转换为预设函数的输入数据，包括：确定当前数据除以二的商值，以作为预设函数的输入数据。

在一些实施例中，若当前数据为浮点数，且浮点数采用以二为基数，包括尾数和阶码的表示方式，则确定当前数据除以二的商值，包括：将当前数据的阶码减去一，得到当前数据除以二的商值。

在一些实施例中，根据换算关系和第一输出数据，转换得到以当前数据为输入的目标函数的第二输出数据，包括：将第一输出数据与一求和，且确定求和的值除以二的商值，以作为以当前数据为输入的目标函数的第二输出数据。

在一些实施例中，若求和的值为浮点数，且浮点数采用以二为基数，包括尾数和阶码的表示方式，则确定求和的值除以二的商值，包括：将求和的值的阶码减去一，得到求和的值除以二的商值。

在一些实施例中，预设函数对应的查找表中包括正数输入区间和/或负数输入区间。

在一些实施例中，目标函数包括tanh双曲正切函数，预设函数包括sigmoid非线性函数；以及根据目标函数与预设函数之间的换算关系，将当前数据转换为预设函数的输入数据，包括：确定当前数据与二的乘积，以作为预设函数的输入数据。

在一些实施例中，若当前数据为浮点数，且浮点数采用以二为基数，包括尾数和阶码的表示方式，则确定当前数据与二的乘积，包括：将当前数据的阶码加上一，得到当前数据与二的乘积。

在一些实施例中，根据换算关系和第一输出数据，转换得到以当前数据为输入的目标函数的第二输出数据，包括：确定第一输出数据与二的乘积，且将乘积减去一的差值，作为以当前数据为输入的目标函数的第二输出数据。