[发明专利]用于基于四元数的机器学习系统的基于梯度的训练引擎在审
申请号: | 201880028671.5 | 申请日: | 2018-05-31 |
公开(公告)号: | CN110574050A | 公开(公告)日: | 2019-12-13 |
发明(设计)人: | M·L·马丁内兹-卡纳莱斯;S·K·辛格;V·沙尔玛;M·K·布汉达鲁 | 申请(专利权)人: | 英特尔公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 31100 上海专利商标事务所有限公司 | 代理人: | 黄嵩泉;何焜 |
地址: | 美国加利*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 深度神经网络(DNN)包括沿输入层与输出层之间的前向传播路径布置的隐藏层。输入层接受包括四元数值的训练数据,沿前向路径将四元数值信号输出到隐藏层中的至少一个隐藏层。隐藏层中的至少一些包括四元数层,用于基于一个或多个变量参数执行一致的四元数(QT)前向操作。损失函数引擎产生表示DNN结果与预期结果之间的误差的损失函数。基于QT反向传播的训练操作包括:计算损失函数相对于一个或多个变量参数的QT共轭以及四元数层的各个输入的QT共轭的与四元数空间的正交基一致的逐层QT偏导数。 | ||
搜索关键词: | 四元数 隐藏层 多个变量 损失函数 输入层 共轭 计算损失函数 参数执行 反向传播 路径布置 前向操作 前向传播 前向路径 神经网络 数值信号 训练操作 训练数据 预期结果 偏导数 输出层 正交基 引擎 输出 | ||
【主权项】:
1.一种用于操作深度神经网络(DNN)的方法,所述方法包括:/n提供输入层、输出层和多个隐藏层,所述多个隐藏层沿所述输入层与所述输出层之间的前向传播路径布置;/n其中所述输入层用于接受包括四元数值的训练数据,并且用于沿所述前向传播路径将四元数值信号输出到所述多个隐藏层中的至少一个隐藏层;/n其中所述隐藏层中的至少一些隐藏层包括四元数层,所述四元数层用于基于一个或多个变量参数来执行一致的四元数(QT)前向操作,以沿所述前向传播路径产生对应的至少一个特征图输出;/n其中所述输出层用于产生基于所述QT前向操作的DNN结果;/n提供损失函数引擎以产生损失函数,所述损失函数表示所述DNN结果与预期结果之间的误差;/n执行基于QT反向传播的训练操作,所述基于QT反向传播的训练操作包括:/n计算所述损失函数相对于所述一个或多个变量参数的QT共轭以及所述四元数层的各个输入的QT共轭的与四元数空间的正交基一致的逐层QT偏导数,所述QT偏导数是依次通过所述多个隐藏层、沿与所述前向传播路径相反的后向传播路径而取得的;以及/n基于所述QT偏导数来更新所述变量参数以减少归因于每个相应的隐藏层的误差。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于英特尔公司,未经英特尔公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201880028671.5/,转载请声明来源钻瓜专利网。
- 上一篇:多任务多模态机器学习系统
- 下一篇:计算高效的基于四元数的机器学习系统