[发明专利]忆阻神经网络及权值训练方法有效
申请号: | 202010293252.3 | 申请日: | 2020-04-14 |
公开(公告)号: | CN111461308B | 公开(公告)日: | 2023-06-30 |
发明(设计)人: | 刘海军;李智炜;李清江;李楠;徐晖;刁节涛;陈长林;宋兵;刘森;王义楠;王伟;于红旗;步凯;王玺 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/084 |
代理公司: | 北京超成律师事务所 11646 | 代理人: | 裴素英 |
地址: | 410000 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 | ||
1.一种忆阻神经网络,其特征在于,包括:第一神经元层、第二神经元层、第一权值网络和第二权值网络;其中,所述第一神经元层包括:k个神经元,所述第二神经元层包括:m个神经元;所述第一权值网络包括:第一忆阻突触阵列和第二忆阻突触阵列,所述第一忆阻突触阵列和所述第二忆阻突触阵列分别为n行k列的忆阻突触单元构成的忆阻突触阵列;所述第二权值网络包括:第三忆阻突触阵列和第四忆阻突触阵列,所述第三忆阻突触阵列和所述第四忆阻突触阵列分别为k行m列的忆阻突触单元构成的忆阻突触阵列;
所述第一忆阻突触阵列的n个行线分别用于接收n个第一边界电压,所述第二忆阻突触阵列的n行线分别用于接收n个第二边界电压,每个第一边界电压为一个输入区间数据对应输入电压区间的一个边界电压,每个第二边界电压为所述输入区间数据对应输入电压区间的另一个边界电压;所述第一忆阻突触阵列的k个列线分别连接所述k个神经元的第一输入端,所述第二忆阻突触阵列的k个列线分别连接所述k个神经元的第二输入端;
所述第三忆阻突触阵列的k个行线分别连接所述k个神经元的第一输出端,用以接收所述k个神经元输出的k个电压区间中的第三边界电压,所述第四忆阻突触阵列的k个行线分别连接所述k个神经元的第二输出端,用以接收所述k个神经元输出的k个电压区间中的第四边界电压;所述第三忆阻突触阵列的m个列线分别连接所述m个神经元的第一输入端,所述第四忆阻突触阵列的m个列线分别连接所述m个神经元的第二输入端;
所述m个神经元的输出端用于输出n个输入区间数据对应的m个输出电压区间,m个输出电压区间分别对应m个输出区间数据;
所述忆阻突触单元包括:至少两个忆阻器件和第一差分器件;所述至少两个忆阻器件的一端均连接对应的行线,所述至少两个忆阻器件的另一端分别连接所述第一差分器件的输入端,所述第一差分器件的输入端的个数与所述忆阻突触单元中忆阻器件的个数相同。
2.根据权利要求1所述的忆阻神经网络,其特征在于,所述忆阻突触单元包括:两个忆阻器件,所述第一差分器件为具有正负输入端的差分器件。
3.根据权利要求2所述的忆阻神经网络,其特征在于,所述第一差分器件为电流减法器,或者,差分放大器件。
4.根据权利要求1所述的忆阻神经网络,其特征在于,所述神经元包括第二差分器件和神经元激活电路,所述第二差分器件的两个输入端分别连接同一权值网络中两个不同忆阻突触阵列的列线,所述第二差分器件的输出端连接所述神经元激活电路的输入端。
5.一种忆阻神经网络的权值训练方法,其特征在于,应用于上述权利要求1-4中任一所述的忆阻神经网络,所述方法包括:
将预设的第一初始权值矩阵和第二初始权值矩阵分别转换为对应的第一多态权值矩阵和第二多态权值矩阵,其中,所述第一多态权值矩阵中的元素用于表示所述第一忆阻突触阵列和所述第二忆阻突触阵列中各忆阻突触单元的阻态,所述第二多态权值矩阵中的元素用于表示所述第三忆阻突触阵列和所述第四忆阻突触阵列中各忆阻突触单元的阻态;
根据所述第一多态权值矩阵和所述第二多态权值矩阵,采用所述忆阻神经网络的前向传播算法,获取所述忆阻神经网络对输入的样本区间数据所得到的实际输出区间数据;
根据所述样本区间数据对应的期望输出区间数据和所述实际输出区间数据,确定所述第一多态权值矩阵和所述第二多态权值矩阵的修正量;
根据所述第一多态权值矩阵和所述第二多态权值矩阵的修正量,分别对所述第一初始权值矩阵和第二初始权值矩阵进行更新;
将更新后的所述第一初始权值矩阵和所述第二初始权值矩阵分别转换为更新后的所述第一多态权值矩阵和所述第二多态权值矩阵;
将满足预设训练条件下所得到的更新后所述第一多态权值矩阵和所述第二多态权值矩阵,确定为所述忆阻神经网络的权值矩阵。
6.根据权利要求5所述的方法,其特征在于,所述根据所述样本区间数据对应的期望输出区间数据和所述实际输出区间数据,确定所述第一多态权值矩阵和所述第二多态权值矩阵的修正量,包括:
根据所述期望输出区间数据和所述实际输出区间数据,确定误差矢量;
根据所述误差矢量,确定所述第一多态权值矩阵和所述第二多态权值矩阵的修正量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010293252.3/1.html,转载请声明来源钻瓜专利网。