[发明专利]变换谱关联的神经网络及实现装置在审
申请号: | 202110116994.3 | 申请日: | 2021-01-28 |
公开(公告)号: | CN112884119A | 公开(公告)日: | 2021-06-01 |
发明(设计)人: | 董立民 | 申请(专利权)人: | 董立民 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N3/063;G06F17/14 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518055 广东省深*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 变换 关联 神经网络 实现 装置 | ||
1.一种变换谱关联的神经网络(TSANN),所述TSANN具备输入层、输出层和多个中间层,中间层神经元节点存储值,层间节点之间设置互联权重;所述TSANN完成前向传播和后向传播计算;所述TSANN网络层间节点互联的权重设置,实现了前向传播时前一层网络节点的前向传播输入乘以节点存储值作为该中间层的前向传播输出,该输出经正交变换后作为后一层网络节点的前向传播输入;后向传播时,后一层网络节点的后向传播输入乘以该层节点的存储值作为该层的后向传播输出,该输出经所述正交变换的逆变换后作为前一层网络节点的后向传播输入。
2.如权利要求1所述,所述TSANN神经网络的训练过程为,中间层网络节点存储值由训练样本在该中间层的前向传播输入和目标矩阵在该层的后向传播输入互相关联更新。
3.如权利要求1、2所述,所述的中间层网络节点存储值关联更新方法为,中间层节点的训练样本的前向传播输入与目标矩阵的后向传播输入归一化后相加再计算模,再经过归一化、乘以因子处理后与原中间层节点存储值累加。
4.如权利要求1、2、3所述,所述的中间层网络节点存储值关联更新方法,进一步进行池化(Pooling)处理。
5.如权利要求1所述TSANN网络的分类识别过程,输入待识别样本,经前向传播计算得到的输出与目标矩阵比较。
6.如权利要求1所述,所述TSANN进行不同样本集的累加学习训练,并进行联合识别。
7.如权利要求1所述,所述TSANN前向传播一种类型的信号,后向传播另一种类型信号,通过关联并存储两种信号在中间层的前向传播输入和后向传播输入,实现关联记忆。
8.如权利要求1所述,所述TSANN网络采用的正交变换为分数阶傅里叶变换,根据分数傅里叶变换的累加性和周期性,选择层间变换的阶数和网络中间层层数。
9.一种实现所述TSANN网络的装置,该装置具备:接口模块,多个层间变换模块,多个谱关联模块,接口模块完成信号的输入和结果输出,层间变换模块完成相邻层间节点信号的前向和后向传播正交变换。谱关联模块完成前后向传播输入信号的关联并更新存储中间层节点的值,多个模块级联完成所述TSANN网络功能。
10.一种由GPU计算单元和接口模块组成的装置,多个GPU计算单元级联,每个GPU单元实现一层或多层TSANN网络功能,把TSANN网络功能分担到多个横向纵向级联的GPU计算单元中,相邻GPU计算单元间互相连接通讯。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于董立民,未经董立民许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110116994.3/1.html,转载请声明来源钻瓜专利网。