[发明专利]一种加速脉冲神经网络的训练方法、终端及存储介质在审
申请号: | 202011395802.9 | 申请日: | 2020-12-03 |
公开(公告)号: | CN112529176A | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 邹承明;袁都成;曾炜;常峰 | 申请(专利权)人: | 鹏城实验室 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 深圳市君胜知识产权代理事务所(普通合伙) 44268 | 代理人: | 朱阳波 |
地址: | 518000 广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 加速 脉冲 神经网络 训练 方法 终端 存储 介质 | ||
本发明公开了一种加速脉冲神经网络的训练方法、终端及存储介质,所述方法包括:获取用于训练的脉冲序列和初始突触权值,根据所述脉冲序列和所述初始突触权值生成脉冲神经元的输入信号;获取基于所述输入信号产生的实际输出脉冲序列;获取期望输出脉冲序列,根据所述实际输出脉冲序列以及所述期望输出脉冲序列对所述初始突触权值进行更新,以实现对脉冲神经网络进行训练。本发明通过主机设备读取图片数据并转成脉冲序列以及设定初始权值。然后将脉冲神经网络训练中最耗时的参数更新任务交由专门的加速设备处理,提高了参数更新的速度,进而加速了脉冲神经网络的训练过程。从而解决了现有技术中脉冲神经网络的训练过程耗时长的问题。
技术领域
本发明涉及神经网络领域,尤其涉及的是一种加速脉冲神经网络的训练方法、终端及存储介质。
背景技术
脉冲神经网络作为第三代人工神经网络,其模拟脉冲神经元更加接近人类的神经模型,且加上了时间信息。脉冲神经网络使用脉冲作为其传输信息,脉冲是一种发生在时间上的离散事件,而不是一些连续值,这更符合信息在生物神经内传播的过程。因此,脉冲神经网络中的脉冲神经元是以生物突触结构为基础构建的脉冲神经元。脉冲神经元所进行的处理是接受由突触传递而来的脉冲,依据突触权重通过脉冲方程产生突出后膜电压。一旦电压超过某一阈值,该脉冲神经元向下一脉冲神经元发出脉冲信号。但是由于脉冲信号加上了时间要素,脉冲神经网络的计算量大幅增长,导致其训练过程需要大量的时间成本。
发明内容
本发明要解决的技术问题在于,针对现有技术的上述缺陷,提供一种一种加速脉冲神经网络的训练方法、终端及存储介质,旨在解决现有技术中脉冲神经网络训练过程耗时长的问题。
本发明解决问题所采用的技术方案如下:
第一方面,本发明实施例提供一种加速脉冲神经网络的训练方法,其中,所述方法应用于加速设备,包括:
获取用于训练的脉冲序列和初始突触权值,根据所述脉冲序列和所述初始突触权值生成脉冲神经元的输入信号;
获取基于所述输入信号产生的实际输出脉冲序列;
获取期望输出脉冲序列,根据所述实际输出脉冲序列以及所述期望输出脉冲序列对所述初始突触权值进行更新,将更新后的突触权值发送给主机设备以实现对脉冲神经网络进行训练。
在一种实施方式中,所述获取用于训练的脉冲序列和初始突触权值,根据所述脉冲序列和所述初始突触权值生成脉冲神经元的输入信号包括:
获取主机设备发送的调度指令,根据所述调度指令获取主机内存中存储的用于训练的脉冲序列和初始突触权值;
对所述脉冲序列和所述初始突触权值的乘积进行累积,将累积后得到数据作为脉冲神经元的输入信号。
在一种实施方式中,所述获取基于所述输入信号产生的实际输出脉冲序列包括:
获取基于所述输入信号产生的脉冲神经元的膜电位的数值;
根据所述脉冲神经元的膜电位的数值获取实际输出脉冲序列。
在一种实施方式中,所述获取基于所述输入信号产生的脉冲神经元的膜电位的数值包括:
获取突触前神经元的输入电流;
根据脉冲神经元模型计算脉冲神经元的膜电位变化量;
根据所述突触前神经元的输入电流、所述脉冲神经元的膜电位变化量以及脉冲神经元的膜电位方程计算基于所述输入信号产生的脉冲神经元的膜电位的数值。
在一种实施方式中,所述根据所述脉冲神经元的膜电位的数值获取实际输出脉冲序列包括:
将所述脉冲神经元的膜电位的数值与预设阈值进行比较,当所述脉冲神经元的膜电位的数值大于所述预设阈值时,获取所述脉冲神经元输出的脉冲序列;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于鹏城实验室,未经鹏城实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011395802.9/2.html,转载请声明来源钻瓜专利网。