[发明专利]一种人工神经网络和脉冲神经网络的混合系统

说明书

技术领域

本发明涉及一种神经网络计算系统。

背景技术

神经网络是一种模仿生物大脑突触-神经元结构进行数据处理的计算系统，由分为多层的计算节点和层间的连接组成。每个节点模拟一个神经元，执行某个特定运算，例如激活函数，节点之间的连接模拟神经突触，连接对于来自上一层节点输入的加权值代表了突触权重。神经网络具有强大的非线性、自适应信息处理能力。

人工神经网络中的神经元将来自连接输入的累加值用激活函数处理后作为自身的输出。对应于不同的网络拓扑结构、神经元模型和学习规则，人工神经网络又包括感知器、Hopfield网络、波耳兹曼机等数十种网络模型，可以实现多种多样的功能，在模式识别、复杂控制、信号处理和最优化等方面都有应用。传统的人工神经网络数据可以认为是通过神经元脉冲的频率信息编码，各层神经元依次串行运行。人工神经网络模拟了生物的神经系统分层结构，但是未能完全匹配皮层的信息处理结构.例如时间序列对学习的影响，而作为真正的生物皮层在处理信息上来说，对信息数据的学习不是独立静态的，而是随着时间有着上下文的联系的。脉冲神经网络是近十几年来出现的新型神经网络，被称为是第三代神经网络。脉冲神经网络中的数据以神经元脉冲信号的时空信息编码，网络的输入输出以及神经元之间的信息传递表现为神经元发送的脉冲和发送脉冲的时间信息，神经元需要同时并行运行。与传统的人工神经网络相比，脉冲神经网络在信息处理方式、神经元模型、并行性等方面有较大不同，运行方式更接近于真实的生物系统。脉冲神经网络应用精确定时的脉冲序列对神经信息进行编码和处理，这种包含时间计算元素的计算模型更具生物解释性，是进行复杂时空信息处理的有效工具，可以处理多模态的信息并且信息处理更加实时。但脉冲神经网络的神经元模型的不连续性、时空编码的复杂性、网络结构的不确定性导致很难在数学上完成对网络整体的描述，因此难以构建有效且通用的有监督学习算法，限制了其的计算规模和精确度。

发明内容

有鉴于此，确有必要提供一种能够进行实时快速、多模态或复杂时空信号计算并能保证计算精确度的神经网络计算系统。

一种人工神经网络和脉冲神经网络的混合系统，包括：多个神经形态网络核以及与该多个神经形态网络核一一对应的多个路由节点，每对神经形态网络核与路由节点对应一个XY坐标，相互对应的一对神经形态网络核与路由节点互称本地形态网络核与本地路由节点；所述多个神经形态网络核用于执行神经网络计算，所述多个神经形态网络核通过本地路由节点实现数据输入与输出，所述多个神经形态网络核中至少一个运行在人工神经网络模式，以及至少一个运行在脉冲神经网络模式；所述多个路由节点组成路由网络，承担整个系统的数据输入与输出。

与现有技术相比，本发明提供的人工神经网络和脉冲神经网络的混合系统结合了人工神经网络和脉冲神经网络两种神经网络的计算模式，能进行实时快速、多模态或复杂时空信号计算并能保证计算的精确度。

附图说明

图1为本发明第一实施例提供的人工神经网络和脉冲神经网络的混合计算系统中基本计算单元结构图。

图2为本发明的串联结构示意图。

图3为本发明的并联结构示意图。

图4为本发明的并行结构示意图。

图5为本发明的学习结构示意图。

图6为本发明的反馈结构示意图。

图7为本发明提供的混合计算系统中计算单元层级结构示意图。

图8为本发明提供的人工神经网络和脉冲神经网络的混合计算系统。

图9为本发明第二实施例中将人工神经网络输出的数值量转换为脉冲序列的示意图。

图10为本发明第二实施例中将脉冲神经网络输出的频率编码脉冲序列转换为数值量示意图。

图11为本发明第二实施例中将脉冲神经网络输出的群体编码脉冲序列转换为数值量示意图。

图12为本发明第二实施例中将脉冲神经网络输出的时间编码脉冲序列转换为数值量示意图。

图13为本发明第二实施例中将脉冲神经网络输出的二值编码脉冲序列转换为数值量示意图。

图14为本发明第三实施例提供的多模态神经形态网络核结构框图。

图15为本发明第三实施例提供的多模态神经形态网络核运行在人工神经网络时的结构框图。

图16为人工神经网络模式下多模态神经形态网络核一个时间步的运行流程图。

图17为本发明第三实施例提供的多模态神经形态网络核运行在脉冲神经网络时的结构框图。