[发明专利]一种神经元加速处理方法、装置、设备及可读存储介质

说明书

本发明公开了一种神经元加速处理方法，该方法获取到两组N位的特征图数据以及对应的权重后，使用一个4N位乘法器实现两个N位低比特量化数据的乘法计算，避免了专用低比特乘法器的设计与使用，降低了实现成本；同时，该方法中中使用一个4N位乘法器实现两个N位低比特量化数据的乘法计算，这样调用一个乘法器的时间可以同时完成两个乘法运算，可以有效提升计算速度，实现神经元的加速处理；而且低比特数据与整型数据可复用同一组乘法器以实现同一个加速器的可变数据精度计算，提升了高位乘法器的适用场景，避免乘法器专用的局限性。本发明还公开了一种神经元加速处理装置、设备及可读存储介质，具有相应的技术效果。

技术领域

本发明涉及深度学习技术领域，特别是涉及一种神经元加速处理方法、装置、设备及可读存储介质。

背景技术

深度神经网络(Deep Neural Network，DNN)是人工神经网络的一种，广泛应用于图像分类、目标识别、行为识别、语音识别、自然语言处理与文档分类等领域。近几年，随着计算机计算能力的增长与DNN结构的发展，DNN网络的识别准确度有了很大提高，但与此同时，DNN的深度也不断加深，计算量也越来越大，因此需要GPU、FPGA、ASIC等异构计算设备来加速计算。

神经元计算为特征图数据与权重因子进行乘加运算并与偏置相加，最终经一个非线性传递函数得到输出结果的过程，它是深度神经网络的核心计算过程，也是资源消耗和耗时较大的计算过程，因此目前DNN加速主要是针对神经元进行。

传统的DNN推理加速器在神经元计算的过程中，一般直接采用浮点数据格式进行浮点数据乘法运算，或者是采用将数据量化为一般整型数据进行整型数据乘法运算的方法，或者将数据量化为低比特整型数据进行乘法运算的方法

采用浮点数据进行乘法运算的方案未采用模型压缩的方法，浮点运算的计算效率低；而采用先将数据量化为整型数据然后进行乘法运算的方案，计算效率有所提高，但整型乘法运算仍为DNN推理的加速器计算过程中资源消耗最大、计算速度最慢的过程，容易成为DNN推理加速器的性能瓶颈；基于低比特量化的DNN推理加速器是一种较新的技术，虽然计算速度有所提升，在实现上存在一定困难，通常需要使用定制化的低比特乘法器以及低比特数据编码实现，提高了相关软硬件设计的难度。

综上所述，如何在提升神经元计算速度的同时降低实现的软硬件成本，是目前本领域技术人员急需解决的技术问题。

发明内容

本发明的目的是提供一种神经元加速处理方法、装置、设备及可读存储介质，可以在提升神经元计算速度的同时降低实现的软硬件成本。

为解决上述技术问题，本发明提供如下技术方案：

一种神经元加速处理方法，包括：

获取连接的上一神经网络层输出的特征图，作为当前神经网络层的输入特征图；

从所述输入特征图中获取两个N位特征图数据，作为第一数据以及第二数据；其中，N为正整数；

获取所述当前神经网络层对应的两个N位权重，作为第一权重以及第二权重；

将所述第一数据添加至4N位乘法器的乘数中0至N-1位，将第二数据添加至乘数中2N至3N-1位，所述乘数中其它位置零；

将第一权重添加至所述4N位乘法器的被乘数中0至N-1位，将第二权重添加至所述被乘数中2N至3N-1位，所述被乘数中其它位置零；

获取所述4N位乘法器的输出数据，并将所述输出数据中0至2N-1位作为所述第一数据与所述第一权重生成的第一乘积值，4N至6N-1位作为所述第二数据与所述第二权重生成的第二乘积值；

根据所述第一乘积值、所述第二乘积值以及其它乘法器的输出结果进行迭代累加，得到累加值；