[发明专利]使用灵活浮点张量的人工神经网络训练在审
申请号: | 201910360720.1 | 申请日: | 2019-04-30 |
公开(公告)号: | CN110580524A | 公开(公告)日: | 2019-12-17 |
发明(设计)人: | K·奈尔;A·杨;B·莫里斯 | 申请(专利权)人: | 英特尔公司 |
主分类号: | G06N3/063 | 分类号: | G06N3/063;G06N3/08;G06F9/30 |
代理公司: | 31100 上海专利商标事务所有限公司 | 代理人: | 何焜;黄嵩泉 |
地址: | 美国加利*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请公开了使用灵活浮点张量的人工神经网络训练。因此,本公开涉及用于使用张量来训练神经网络的系统和方法,所述张量包括多个FP16值和定义由所述张量中所包括的所述FP16值中的一些或全部共享的指数的多个位。所述FP16值可以包括IEEE 754格式的16位浮点值,并且所述张量可以包括定义所述共享指数的多个位。所述张量可以包括共享指数和FP16值,所述FP16值包括可以由处理器电路系统动态地设置的可变位长尾数和可变位长指数。所述张量可以包括共享指数以及FP16值,所述FP16值包括:可以由处理器电路系统动态地设置的可变位长尾数、可变位长指数,以及由所述处理器电路系统设置以选择性地将所述FP16值的指数与所述共享指数进行组合的共享指数开关。 | ||
搜索关键词: | 可变位 共享 处理器电路系统 尾数 个位 浮点 人工神经网络训练 训练神经网络 指数开关 灵活 申请 | ||
【主权项】:
1.一种用于训练神经网络的系统,所述系统包括:/n处理器电路系统;/n通信接口,耦合至所述处理器电路系统,所述通信接口可耦合到神经网络;以及/n存储设备,耦合至所述处理器电路系统,所述存储设备包括机器可读指令,所述指令在由所述处理器电路系统执行时使所述处理器电路系统进行以下操作:/n生成神经网络训练张量,所述神经网络训练张量包括:/n多个16位浮点值,所述多个16位浮点值中的每一个包括:/n形成对应浮点数的尾数的第一多个位;和/n形成所述对应浮点数的指数的第二多个位;以及/n由所述训练张量中所包括的所述16位浮点值中的每一个所共用的五位共享指数。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于英特尔公司,未经英特尔公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910360720.1/,转载请声明来源钻瓜专利网。