[发明专利]一种并行竞争神经网络芯片的优化方法和装置

说明书

本发明公开了一种并行竞争神经网络芯片的优化方法和装置，所述装置包括缓存单元、多个可重构网络矩阵单元、取数单元、主控单元。所述方法包括以下步骤：可重构网络矩阵单元根据主控单元发送的初始参数配置信息，获取缓存单元中的各个参数元素，构建出相应的神经网络单元；神经网络单元进行神经网络训练，主控单元根据神经网络单元的训练结果不断地淘汰训练结果最差的神经网络单元，并将淘汰的神经网络的电路资源(即参数元素)重新分配给未淘汰的神经网络,直至剩余的神经网络单元数量不大于预设数量值，剩余的神经网络单元具有最优的电路资源，可以高效地进行神经网络计算，提高识别效率。

技术领域

本发明涉及电子设备领域，尤其涉及一种并行竞争神经网络芯片的优化方法和装置。

背景技术

随着人工智能深度学习神经网络的快速发展,人们对人工智能应用的需求越来越强烈，如进行智能语音识别对话、智能人脸识别等，基于神经网络的识别算法是其中重要一项。由于深度学习神经网络计算较为复杂，导致其对硬件电路资源的消耗较大,而对于大多数终端用户设备(例如移动手持设备)而言，很难实现允许容纳多个复杂的神经网络训练电路。因此，当前深度学习神经网络训练的一大矛盾就是有限的电路资源和复杂神经网络算法对硬件电路的极大要求之间的矛盾。如果能找到缓和或者解决该矛盾的方法，在人工智能应用领域将是非常有意义的。

发明内容

为此，需要提供一种并行竞争神经网络芯片的优化的技术方案，用以解决目前终端设备的硬件资源无法适配多个神经网络训练电路的问题。

为实现上述目的，发明人提供一种并行竞争神经网络芯片的优化装置，所述装置包括缓存单元、多个可重构网络矩阵单元、取数单元、主控单元；每个可重构网络矩阵单元均与取数单元连接，取数单元与缓存单元连接；主控单元与各个可重构网络矩阵单元连接；所述缓存单元用于存储参数元素；

所述主控单元用于配置各个神经网络单元对应的初始参数配置信息，所述初始参数配置信息包括神经网络单元所需的各个参数元素最小数量；

所述取数单元用于根据初始参数配置信息从缓存单元中获取相应数量的参数元素，所述可重构网络矩阵单元用于根据各个参数元素构建出相应的神经网络单元；

所述主控单元还用于配置参数优化信息，并根据均分规则将缓存单元中剩余的参数元素平均配置至各个神经网络单元；

所述神经网络单元用于接收主控单元发送的测试数据，进行神经网络训练，并将神经网络训练的结果发送至主控单元；所述主控单元用于根据各个神经网络单元的训练结果，确定当前训练结果最差的神经网络单元，并对该神经网络单元进行拆分，将拆分得到的参数元素存储至缓存单元中，以及用于根据均分规则将当前缓存单元中的所有参数元素重新配置至剩余的神经网络单元中；

所述神经网络单元还用于再次接收主控单元发送的测试数据，进行神经网络训练，并将再次神经网络训练的结果发送至主控单元；所述主控单元用于根据各个神经网络单元的再次得到的训练结果，确定当前训练结果最差的神经网络单元，并对该神经网络单元进行拆分，将拆分得到的参数元素存储至缓存单元中，以及用于根据均分规则将当前缓存单元中的所有参数元素重新配置至剩余的神经网络单元中；重复上述步骤，直至剩余的神经网络单元数量不大于预设数量值。

进一步地，主控单元用于根据各个神经网络单元的训练结果，确定训练结果最差的神经网络单元包括：

主控单元用于在各个神经网络单元的识别率均达到预设识别率后，将识别率最低的神经网络单元确定为训练结果最差的神经网络单元；所述识别率为神经网络单元对测试数据的计算结果与真实信息之间的匹配程度，每一测试数据对应一真实信息。

进一步地，所述主控单元用于在至少存在一个神经网络单元的识别率达不到预设识别率时，判断各个神经网络单元的训练次数是否均达到预设训练次数，若是统计当前各个神经网络单元的识别率，将识别率最低的神经网络单元确定为训练结果最差的神经网络单元。