[发明专利]基于主成分分析降维和/或升维的神经网络处理方法有效
申请号: | 201810408138.3 | 申请日: | 2018-04-28 |
公开(公告)号: | CN108629410B | 公开(公告)日: | 2021-01-22 |
发明(设计)人: | 张潇;金禄旸;张磊;陈云霁 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/063 | 分类号: | G06N3/063 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 任岩 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 成分 分析 维和 神经网络 处理 方法 | ||
1.一种基于主成分分析的神经网络处理方法,包括:
利用降维指令对片下数据进行降维并发送至片上;
对所述降维并发送至片上的数据进行升维;
接收所述升维后的数据并执行神经网络运算;
对神经网络运算得到的数据进行降维并发送至片下;以及
对所述降维并发送至片下的数据进行升维并存储为片下数据;
其中,基于主成分分析对数据进行所述降维和/或升维操作;
所述降维指令包括:域1,用于存储指令类型;域2用于存储源地址是否在片上信息;域3,用于存储目的地址是否在片上信息;域4,用于存储源地址是否使用寄存器;域5,用于存储目的地址是否使用寄存器;域6,用于存储源地址;域7,用于存储目的地址;域8,用于存储寄存器号;域9,用于存储降维变换矩阵地址;域10,用于存储降维变换矩阵的第一个维度。
2.根据权利要求1所述的神经网络处理方法,其中,所述进行升维及降维的数据包括神经网络中的神经元数据和权值数据。
3.根据权利要求1所述的神经网络处理方法,其中,在所述降维步骤中,基于主成分分析利用变换矩阵对数据进行降维操作;在所述升维步骤中,利用降维变换矩阵的逆矩阵对数据进行升维操作;所述变换矩阵为一已知的变换矩阵,或由奇异值分解(SVD)确定的一变换矩阵。
4.根据权利要求3所述的神经网络处理方法,其中,将输入数据进行SVD分解得到三个结果矩阵U、sigma、V;sigma是对角矩阵,其对角线上的值的平方根就是奇异值,对奇异值进行排序,取其中最大的k个值对应的特征向量,这些特征向量组成的矩阵即用于主成分分析的变换矩阵。
5.根据权利要求3或4所述的神经网络处理方法,其中,在降维步骤中,将需要降维的数据乘以变换矩阵以完成降维操作;在升维步骤中,将需要升维的数据乘以降维变换矩阵的逆矩阵以完成升维操作。
6.根据权利要求3所述的神经网络处理方法,其中,利用SVD指令进行奇异值分解,SVD指令包括:寄存器号0,用于存储输入地址;寄存器号1用于存储输入矩阵m方向长度;寄存器号2用于存储输入矩阵n方向长度,寄存器号3用于存储奇异值输出地址;寄存器号4,用于存储奇异矩阵输出地址。
7.根据权利要求1所述的神经网络处理方法,其中,利用升维指令进行升维操作。
8.根据权利要求7所述的神经网络处理方法,其中,所述降维指令和升维指令中包含降维维度信息,根据所述降维维度信息将数据降维/升维至预定维度。
9.根据权利要求1所述的神经网络处理方法,其中,
在片下降维的步骤和片上升维的步骤之间还包括:在片上存储指令和经片下降维后发送至片上的数据;
在进行神经网络运算的步骤之前还包括:将所述指令译码为微指令;
由此,利用所述微指令以及经片上升维后的数据进行神经网络运算。
10.根据权利要求9所述的神经网络处理方法,其中,
在片上存储指令和经片下降维后发送至片上的数据的步骤之前,还包括:对所述经片下降维后发送至片上的数据进行预处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810408138.3/1.html,转载请声明来源钻瓜专利网。