[发明专利]受大脑抑制反馈机制启发的人工神经网络构建方法及系统

说明书

本发明提供一种受大脑抑制反馈机制启发的人工神经网络构建方法及系统，所述构建方法包括：将多个参考样本的人工神经网络中的神经元区分为兴奋性神经元和抑制性神经元；通过抑制性反馈对抑制性神经元进行抑制，得到抑制性反馈神经网络；将抑制性反馈神经网络重组为闭环神经网络，用于针对当前样本的反馈学习确定决策规则本发明通过引入神经科学中的兴奋性和抑制性神经元的概念，可优化整体神经网络的性能；进一步通过引入抑制反馈后的闭环系统可提高鲁棒性能。

本申请要求于2018年11月12日提交中国专利局、申请号为201811341201.2、发明名称为“受大脑抑制反馈机制启发的人工神经网络”的中国专利申请的优先权，其全部内容通过引用结合在本申请中。

技术领域

本发明属于计算机科学中的人工神经网络及脑神经科学领域技术领域，具体涉及一种受大脑抑制反馈机制启发的人工神经网络构建方法及系统。

背景技术

人工神经网络是上世纪中后期在人工智能领域兴起的一种技术。它在一定程度上对人脑神经元细胞进行了数学上的抽象，建立了信息科学意义上的神经元模型，并对这些神经元按照一定的连接，形成了不同的网络结构。随着人工神经网络的深入研究，该技术已经获得了重要的应用价值，在多个领域已表现出了出色的效果。

人工神经网络模型的出现最早见于1943年的Warren McCulloch与Walter Pitts基于数学和逻辑算法提出的McCulloch-Pitts(MP)模型。该模型通过神经递质传播该神经元的兴奋和抑制信息。类似于生物神经网络的神经元，MP模型中的神经元也同时接受其它神经元的输入，该输入通常是其它神经元输出通过一定权重的线性叠加。类似于生物神经元的激活，MP模型中也定义了一定形式的激活函数，当神经元的输入满足激活函数的条件，它便被激活或者类似于生物神经元的“放电”，并输出给网络中的其它神经元。把许多个这样的神经元按照一定的层次结构连接起来，就可以得到各种形式的多层人工神经网络。

自MP模型之后，来自神经科学和计算机科学的科学家们对人工神经网络的概念和方法进行了不断地推进。1949年Hebb等人在神经生物学领域提出了突触学习，该规则指出神经元之间突触联系是可变的假说。在该规则中，两个神经元的突触的联接强度当两个神经元对刺激处于同时相应的一致性而增强，当神经元所处对激励不同时响应的不一致性而减弱。依据Hebb学习理论，Rochester，Holland和IBM公司的研究人员合作，在IBM701计算机上用网络学习经验改变强度的方式来模拟Hebb学习，并取得了成功。后来，人工智能的主要创始人之一，Minsky仔细分析了以感知器为代表的神经网络系统的功能及局限后，于1969年出版了《Perceptron》一书，指出感知器不能实现XOR逻辑函数问题，并且不能解决高阶谓词问题。这些研究直接否定了早期的人工神经网络，并给后续一些年的人工神经网络发展带来很大的负面影响。然而，到了上世纪80年代，各种人工神经网络技术陆续出现。1982年，J.J.Hopfield提出了Hopfield神经网格模型和连续时间的Hopfield神经网络模型，进一步推进了神经网络的新模型和方法的研究。1984年，Hinton等人用模拟退火算法提出了Boltzman机模型，给出了多层网络的训练方法。而到了1986年，Rumelhart,Hinton,Williams发展了BP算法，该算法被广泛的应用到后来的多层神经网络，乃至当前影响最大的深度学习技术。

2006年，Hinton等人提出了深度置信神经网络(DBN)的概念，并给出了逐层非监督学习的训练方法，从此，对人工神经网络的研究进一步飞跃至深度学习时代。经过10几年的发展，深度学习算法遍地开花，出现了多种不同的神经网络，除深度置信网络外，还包括卷积神经网络、反复神经网络、限制波尔兹曼积、自动编解码等多种变种。其中，卷积神经网络在层次上更类似于人脑的视觉通路层状结构，而其中的局部卷积，感受野等概念，更和人类的神经元特性非常相近。从一定意义上说，卷积神经网络是目前为止最类脑的人工神经网络。