[发明专利]用于神经网络的数据压缩在审
申请号: | 202010192465.7 | 申请日: | 2020-03-18 |
公开(公告)号: | CN111708511A | 公开(公告)日: | 2020-09-25 |
发明(设计)人: | D·R·加西亚·加西亚 | 申请(专利权)人: | 辉达公司 |
主分类号: | G06F5/01 | 分类号: | G06F5/01;G06F7/556;G06F17/16;G06N3/08 |
代理公司: | 北京市磐华律师事务所 11336 | 代理人: | 刘爱平 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用于 神经网络 数据压缩 | ||
1.一种处理器,包括:
一个或更多个算术逻辑单位(ALU),配置为:
确定第一集合值的每个值内的第一公共值;
确定所述第一集合值的一个或更多个子集值的每个值内的第二公共值;以及
存储对应于所述第一和第二公共值与所述一个或更多个子集值中的每个值之间的数学关系的第三值,其中所述第三值比所述第一和第二公共值需要更少的存储。
2.根据权利要求1所述的处理器,其中所述第一集合值是来自浮点数的矩阵中的非重叠图块的均匀网格。
3.根据权利要求2所述的处理器,其中所述一个或更多个子集值中的每个子集是来自所述第一集合值中的非重叠图块的较小均匀网格。
4.根据权利要求1所述的处理器,其中所述第一公共值是从所述第一集合值的压缩集确定的,以及所述第二公共值是从所述一个或更多个子集值的第二压缩集确定的。
5.根据权利要求4所述的处理器,其中所述第三值包括用于所述处理器解压缩所述第一集合值的所述压缩集的信息。
6.根据权利要求1所述的处理器,其中对应于所述第一和第二公共值与所述一个或更多个子集值内的每个值之间的数学关系的所述第三值存储在存储设备中,而无需存储所述第二公共值。
7.根据权利要求6所述的处理器,其中所述第三值作为不超过预定的位数的无符号整数存储在所述存储设备中。
8.一种方法,包括:
确定第一集合值的每个值内的第一公共值;
确定所述第一集合值的一个或更多个子集值的每个值内的第二公共值;以及
存储对应于如何确定所述第一和第二公共值与所述一个或更多个子集值中的每个值之间的数学关系的指示的第三值,其中所述第三值比所述第一和第二公共值需要更少的存储。
9.根据权利要求8所述的方法,其中所述第一公共值是从所述第一集合值的压缩集确定的,以及所述第二公共值是从所述一个或更多个子集值的第二压缩集确定的,其中所述第三值与所述第一集合值的所述压缩集用于训练神经网络。
10.根据权利要求8所述的方法,其中所述指示是所述第二公共值与所述第一公共值之间的差值。
11.根据权利要求8所述的方法,其中所述第一集合值是浮点数矩阵的元素的数据集,其中所述浮点数中的每个浮点数的位表示指数值。
12.根据权利要求11所述的方法,其中确定所述第一公共值进一步包括确定所述第一集合值共有的第一最大指数值。
13.根据权利要求12所述的方法,其中在确定所述第一最大指数值之后,所述方法还包括:通过确定所述一个或更多个子集值共有的第二最大指数值来确定所述第二公共值。
14.一种机器可读介质,其上存储有指令集,所述指令集如果由一个或更多个处理器执行,使所述一个或更多个处理器至少:
计算第一集合值的每个值内的第一公共值;
计算所述第一集合值的一个或更多个子集值的每个值内的第二公共值;以及
存储对应于所述第一和第二公共值与所述一个或更多个子集值内的每个值之间的数学关系的第三值,其中所述第三值比所述第一和第二公共值需要更少的存储。
15.根据权利要求14所述的机器可读介质,其中存储所述第一公共值,而不存储所述第二公共值。
16.根据权利要求14所述的机器可读介质,其中所述第三值为所述第一公共值与所述第二公共值之间的差值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于辉达公司,未经辉达公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010192465.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:用于操作汽车内部空间中的通风喷嘴的旋转操作元件
- 下一篇:钢带传动机构