[发明专利]一种基于帧差法加速神经网络运算的方法在审
申请号: | 201910086650.5 | 申请日: | 2019-01-29 |
公开(公告)号: | CN109887006A | 公开(公告)日: | 2019-06-14 |
发明(设计)人: | 钟天浪;钟宇清;黄磊;杨常星;莫冬春;宋蕴;胡俊;陈伟 | 申请(专利权)人: | 杭州国芯科技股份有限公司 |
主分类号: | G06T7/254 | 分类号: | G06T7/254;G06N3/04 |
代理公司: | 杭州君度专利代理事务所(特殊普通合伙) 33240 | 代理人: | 朱月芬 |
地址: | 310012 浙江省杭州市文*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 运算 线性矩阵 神经网络 非线性运算 加速神经 输出结果 网络运算 参考帧 清零 帧差 神经网络运算 输入序列 线性输出 和运算 减去 输出 保存 | ||
1.一种基于帧差法加速神经网络运算的方法,该方法将神经网络分为多层,对每层参考帧,按常规操作通过神经网络各层进行运算,保存各层中线性矩阵运算的输入值和运算结果;其特征在于,对每层除参考帧以外各帧的处理包括线性矩阵运算部分和非线性运算部分,具体如下:
对于神经网络第n层的线性矩阵运算部分:首先将神经网络的连续输入序列的第k帧xn,k减去前m帧xn,k-m,通过小值清零变换得到帧差值Δxn,k,再将Δxn,k作为神经网络第n层的输入,得到神经网络线性矩阵运算输出Δyn,k,最终得到第n层第k帧的线性矩阵运算输出结果yn,k,k≥2,m≥1;表示如下:
yn,k-m=f(xn,k-m),Δxn,k=xn,k-xn,k-m,Δyn,k=f(Δxn,k),yn,k=Δyn,k+yn,k-m;f表示神经网络线性矩阵运算;
进而得到第n层的非线性运算输出结果yn,k′:yn,k′=f′(yn,k);f′表示神经网络非线性运算;
将yn,k′-yn,k-m′通过小值清零变换后的结果作为第n+1层神经网络线性矩阵运算的帧差值Δxn+1,k,最终得到第n+1层第k帧的线性矩阵运算输出结果yn+1,k;依次类推,直到神经网络第k帧的最终输出结果;
对于神经网络第n层的非线性运算部分采用常规方法运算。
2.如权利要求1所述的一种基于帧差法加速神经网络运算的方法,其特征在于:所述的小值清零变换,是指将输入数值中大于ε1且小于ε2的值置为0,ε1和ε2为设定阈值,ε1≤0,ε2≥0,ε1<ε2。
3.如权利要求1所述的一种基于帧差法加速神经网络运算的方法,其特征在于:所述的所述神经网络包括深度神经网络、卷积神经网络、自编码器、循环神经网络。
4.如权利要求1所述的一种基于帧差法加速神经网络运算的方法,其特征在于:所述参考帧是指不经过帧差法处理的原始帧,或者是该原始帧通过神经网络计算得到的各层运算结果。
5.如权利要求1所述的一种基于帧差法加速神经网络运算的方法,其特征在于:所述神经网络线性矩阵运算,采用支持稀疏矩阵运算加速的硬件设备或者数学运算库实现。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州国芯科技股份有限公司,未经杭州国芯科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910086650.5/1.html,转载请声明来源钻瓜专利网。