[发明专利]转置的稀疏矩阵乘以稠密矩阵用于神经网络训练在审
申请号: | 201910467136.6 | 申请日: | 2019-05-31 |
公开(公告)号: | CN111191784A | 公开(公告)日: | 2020-05-22 |
发明(设计)人: | 吴昊 | 申请(专利权)人: | 辉达公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 北京市磐华律师事务所 11336 | 代理人: | 高伟;娄晓丹 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了转置的稀疏矩阵乘以稠密矩阵用于神经网络训练。实现神经网络的机器学习系统通常以推理模式或训练模式操作。在训练模式中,执行推理操作以帮助指导训练过程。推理模式操作通常涉及向前传播和对被编码为一组向量的某些稀疏矩阵的密集访问。反向传播和对相同稀疏矩阵的转置版本的密集访问提供了训练改进。生成稀疏矩阵的转置版本可能消耗大量额外的存储器和计算资源。在一个实施例中,生成两个附加编码向量,提供对稀疏矩阵和同一稀疏矩阵的转置表示的高效操作。在神经网络中,有效的操作可以减少反向传播所需的存储器量并降低功耗。 | ||
搜索关键词: | 稀疏 矩阵 乘以 稠密 用于 神经网络 训练 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于辉达公司,未经辉达公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910467136.6/,转载请声明来源钻瓜专利网。
- 上一篇:一种多段管道串联温控加热系统
- 下一篇:自适应高度驱动机构