[发明专利]一种多模态神经形态网络核

说明书

技术领域

本发明涉及一种神经形态网络核。

背景技术

神经网络是一种模仿生物大脑突触-神经元结构进行数据处理的计算系统，由分为多层的计算节点和层间的连接组成。每个节点模拟一个神经元，执行某个特定运算，例如激活函数，节点之间的连接模拟神经突触，连接对于来自上一层节点输入的加权值代表了突触权重。神经网络具有强大的非线性、自适应信息处理能力。

人工神经网络中的神经元将来自连接输入的累加值用激活函数处理后作为自身的输出。对应于不同的网络拓扑结构、神经元模型和学习规则，人工神经网络又包括感知器、Hopfield网络、波耳兹曼机等数十种网络模型，可以实现多种多样的功能，在模式识别、复杂控制、信号处理和最优化等方面都有应用。传统的人工神经网络数据可以认为是通过神经元脉冲的频率信息编码，各层神经元依次串行运行。人工神经网络模拟了生物的神经系统分层结构，但是未能完全匹配皮层的信息处理结构.例如时间序列对学习的影响，而作为真正的生物皮层在处理信息上来说，对信息数据的学习不是独立静态的，而是随着时间有着上下文的联系的。脉冲神经网络是近十几年来出现的新型神经网络，被称为是第三代神经网络。脉冲神经网络中的数据以神经元脉冲信号的时空信息编码，网络的输入输出以及神经元之间的信息传递表现为神经元发送的脉冲和发送脉冲的时间信息，神经元需要同时并行运行。与传统的人工神经网络相比，脉冲神经网络在信息处理方式、神经元模型、并行性等方面有较大不同，运行方式更接近于真实的生物系统。脉冲神经网络应用精确定时的脉冲序列对神经信息进行编码和处理，这种包含时间计算元素的计算模型更具生物解释性，是进行复杂时空信息处理的有效工具，可以处理多模态的信息并且信息处理更加实时。但脉冲神经网络的神经元模型的不连续性、时空编码的复杂性、网络结构的不确定性导致很难在数学上完成对网络整体的描述，因此难以构建有效且通用的有监督学习算法，限制了其的计算规模和精确度。

发明内容

有鉴于此，确有必要提供一种既可以进行人工神经网络计算也可以进行脉冲神经网络计算的神经形态网络核。

一种多模态神经形态网络核，包括：模式寄存器、轴突输入单元、突触权重存储单元、树突单元和神经元计算单元；

所述模式寄存器与所述轴突输入单元、树突单元以及神经元计算单元连接，控制上述单元运行在人工神经网络模式或脉冲神经网络模式；

所述轴突输入单元与所述树突单元连接，接收并存储轴突输入；

所述突触权重存储单元与所述树突单元连接，存储突触权重矩阵；

所述树突单元与所述神经元计算单元连接，包括树突乘加单元与树突累加单元，运行在人工神经网络模式时，所述轴突输入向量与突触权重矩阵送入所述树突乘加单元进行乘加运算，运行在脉冲神经网络模式时，所述轴突输入向量与突触权重矩阵送入所述树突累加单元进行累加运算；

所述神经元计算单元包括第一计算单元与第二计算单元，运行在人工神经网络模式时，所述树突乘加单元发来的乘加运算结果送入所述第一计算单元进行人工神经网络运算，运行在脉冲神经网络模式时，所述树突累加单元发来的累加运算结果送入所述第二计算单元进行脉冲神经网络计算。

与现有技术相比，本发明提供的多模态神经形态网络核既可以进行人工神经网络运算，也可以进行脉冲神经网络运算，且可以按照需要在人工神经网络运行模式和脉冲神经网络运行模式间切换，能够进行实时快速、多模态或复杂时空信号计算并能保证计算的精确度。

附图说明

图1为本发明第一实施例提供的人工神经网络和脉冲神经网络的混合计算系统中基本计算单元结构图。

图2为本发明的串联结构示意图

图3为本发明的并联结构示意图。

图4为本发明的并行结构示意图。

图5为本发明的学习结构示意图。

图6为本发明的反馈结构示意图。

图7为本发明提供的混合计算系统中计算单元层级结构示意图。

图8为本发明提供的人工神经网络和脉冲神经网络的混合计算系统。

图9为本发明第二实施例中将人工神经网络输出的数值量转换为脉冲序列的示意图。

图10为本发明第二实施例中将脉冲神经网络输出的频率编码脉冲序列转换为数值量示意图。

图11为本发明第二实施例中将脉冲神经网络输出的群体编码脉冲序列转换为数值量示意图。

图12为本发明第二实施例中将脉冲神经网络输出的时间编码脉冲序列转换为数值量示意图。