[发明专利]基于参数压缩和结构压缩的车载深度神经网络优化方法在审
申请号: | 201611240883.9 | 申请日: | 2016-12-29 |
公开(公告)号: | CN107220706A | 公开(公告)日: | 2017-09-29 |
发明(设计)人: | 王曦;周冕;谢晓靓;宋健明;赵贵平;王震 | 申请(专利权)人: | 恩泊泰(天津)科技有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;B60W50/00 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 300000 天津市南开区华苑产业*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 参数 压缩 结构 车载 深度 神经网络 优化 方法 | ||
1.基于参数压缩和结构压缩的车载深度神经网络优化方法,其特征在于:为了提高网络的性能,针对卷积网络进行的优化,实施步骤如下:
1.对于特定层,可以使用级联的子网络来保证网络的性能。
2.对于子网络可以设置较少的参数,并达到较好的性能。
3.适当提高子网络的深度
4.设置特殊的网络层,合并多个自网络的输出;
这里r是一个远小于m,n的数,这样就大大降低了原始矩阵的维度,提高了计算的速度。
2.根据权利要求1所述的基于参数压缩和结构压缩的车载深度神经网络优化方法,其特征在于:全链接网络是一个典型的矩阵计算方法,可以使用矩阵的方法进行参数压缩。假设全链接层的参数为A,对A进行SVD分解,公式如下
A=U∑VT 。
3.根据权利要求1所述的基于参数压缩和结构压缩的车载深度神经网络优化方法,其特征在于:为了降低参数的格式,可以进行部分奇异值分解,如下:
Am×n≈Um×r∑r×rVTr×n其中,r是一个远小于m,n的数,很大程度的降低了原始矩阵的维度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于恩泊泰(天津)科技有限公司,未经恩泊泰(天津)科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611240883.9/1.html,转载请声明来源钻瓜专利网。