[发明专利]神经网络中的差分编码有效
申请号: | 201580015756.6 | 申请日: | 2015-03-17 |
公开(公告)号: | CN107077637B | 公开(公告)日: | 2021-07-20 |
发明(设计)人: | V·S·R·安纳普莱蒂;D·J·朱里安;R·B·托瓦;Y·刘 | 申请(专利权)人: | 高通股份有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04 |
代理公司: | 上海专利商标事务所有限公司 31100 | 代理人: | 李小芳 |
地址: | 美国加利*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 中的 编码 | ||
1.一种用于在人工神经网络中执行针对图像的差分编码的方法,包括:
由所述神经网络的第一层的第一神经元基于所述第一神经元的激活历史以及提供给所述第一神经元的附加值来预测所述第一神经元的激活值,所述附加值是至少部分地基于图像运动估计来计算的;
由所述第一神经元至少部分地基于所述神经网络中的所述第一神经元的预测激活值与实际激活值之间的差值来对值进行编码;以及
将经编码的值传达给所述神经网络的第二层的第二神经元而不传播所述实际激活值。
2.如权利要求1所述的方法,其中,所传达的经编码值进一步基于所述预测激活值与所述实际激活值之间的取阈差值。
3.如权利要求1所述的方法,其中,所传达的经编码值是至少部分地基于所述经编码值的位数来选择的。
4.如权利要求1所述的方法,其中,所述预测是至少部分地基于接收到输入来执行的。
5.如权利要求1所述的方法,进一步包括至少部分地基于所述值的位宽来对所述值进行编码。
6.如权利要求1所述的方法,其中,所述编码是至少部分地基于以神经网络输出为基础的触发来执行的。
7.如权利要求1所述的方法,其中,所述编码相对于至所述神经网络的输入被延迟。
8.如权利要求1所述的方法,其中,所述编码进一步至少部分地基于所述神经网络的输出。
9.如权利要求1所述的方法,其中,当输入-输出关系是确定性的时,所述至少一个先前激活值包括输入历史。
10.如权利要求1所述的方法,其中,当输入-输出关系是随机的时,所述至少一个先前激活值包括输入历史和输出历史。
11.如权利要求1所述的方法,进一步包括至少部分地基于预测输入值来计算所述预测激活值。
12.如权利要求11所述的方法,进一步包括通过将所述经编码值与所述预测输入值相组合来计算实际输入值。
13.如权利要求11所述的方法,其中,计算所述预测输入值和所述预测激活值包括使用所述神经元的多个先前输入值和多个先前激活值的线性组合。
14.如权利要求1所述的方法,其中,所述神经元的所述预测激活值至少部分地基于所述神经元的状态以及至所述神经元的输入。
15.如权利要求14所述的方法,其中,所述神经元的状态是基于以下至少一者来更新的:先前状态、输入值、输出值、预测激活值、以及定向激活值。
16.如权利要求14所述的方法,其中,所述神经元的状态包括以下至少一者:输入历史、输出历史、预测激活值历史、以及定向激活值历史。
17.如权利要求16所述的方法,其中,所述预测至少部分地基于另一神经元的状态。
18.如权利要求1所述的方法,其中,所述预测激活值至少部分地基于多个先前实际激活值的线性组合或先前输入值的线性组合。
19.如权利要求1所述的方法,其中,所述附加值包括来自另一神经元的反馈信号。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于高通股份有限公司,未经高通股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201580015756.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:COLD神经元尖峰定时反向传播
- 下一篇:交易系统及方法