[发明专利]高精度低位卷积神经网络有效
申请号: | 201910462515.6 | 申请日: | 2019-05-30 |
公开(公告)号: | CN110852414B | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | U·P·穆达里格;佟维;曾树青;S·王 | 申请(专利权)人: | 通用汽车环球科技运作有限责任公司 |
主分类号: | G06N3/0464 | 分类号: | G06N3/0464;G06N3/063;G06N3/08 |
代理公司: | 中国专利代理(香港)有限公司 72001 | 代理人: | 邓雪萌;王丽辉 |
地址: | 美国密*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 高精度 低位 卷积 神经网络 | ||
1.一种用于训练高精度低位卷积神经网络(CNN)的系统,所述系统包括:
至少一个存储器,所述至少一个存储器存储计算机可执行指令;和
至少一个处理器,所述至少一个处理器被配置为访问所述至少一个存储器并执行所述计算机可执行指令以:
接收对所述卷积神经网络的卷积层的输入,所述卷积层包括1×1滤波器;
使用二元激活的线性组合模拟实值激活函数;
使用每个二元激活处理所述输入以获得一组二元激活结果;
使用二元滤波器的线性组合模拟所述1×1滤波器;
将每个二元激活结果与二元滤波器的所述线性组合卷积,以获得一组卷积结果;以及
对所述卷积结果求和以获得所述卷积层的输出,
其中所述输入包括车辆的周围环境的图像,并且经训练的高精度低位卷积神经网络在可操作地耦接到所述车辆的嵌入式设备上实现,并且其中所述至少一个处理器被进一步配置为执行所述计算机可执行指令以:
将所述经训练的高精度低位卷积神经网络施加至所述图像以执行对象识别;以及
在可操作地耦接到所述车辆的显示器上呈现所述对象识别的结果的通知。
2.根据权利要求1所述的系统,其中所述至少一个处理器被配置为模拟执行所述计算机可执行指令的所述卷积层的所述1×1滤波器以:
解决优化问题以确定一组标量值和二元滤波器的所述线性组合的一组对应二元滤波器。
3.根据权利要求1所述的系统,其中所述输入为第一输入,所述卷积层为第一卷积层,所述组二元激活结果为第一组二元激活结果,并且所述组卷积结果为第一组卷积结果,并且其中所述至少一个处理器被进一步配置为执行所述计算机可执行指令以:
接收对所述卷积神经网络的第二卷积层的第二输入,所述第二卷积层包括非1×1滤波器;
使用每个二元激活处理所述第二输入以获得第二组二元激活结果;
使用缩放的二元滤波器模拟所述非1×1滤波器;
将所述第二组二元激活结果中的每个二元激活结果与所述缩放的二元滤波器卷积以获得第二组卷积结果;以及
将所述第二组卷积结果中的所述卷积结果求和以获得所述第二卷积层的输出。
4.根据权利要求3所述的系统,其中所述至少一个处理器被配置为通过执行所述计算机可执行指令来模拟所述第二卷积层的所述非1×1滤波器以:
解决优化问题以确定所述缩放的二元滤波器的标量值和二元滤波器。
5.根据权利要求3所述的系统,其中所述至少一个处理器被进一步配置为执行所述计算机可执行指令以:
执行反向传播以调节每个相应的缩放的二元滤波器的相应权重和二元滤波器的每个相应的线性组合的相应权重;以及执行反向传播以调节二元激活的所述线性组合的一个或多个二元激活。
6.根据权利要求1所述的系统,其中所述至少一个处理器被配置为通过执行所述计算机可执行指令来使用二元激活的所述线性组合模拟所述实值激活函数以:
至少部分地使用产生二元输出的指示函数将二元化函数施加至所述实值激活函数。
7.一种用于训练高精度低位卷积神经网络(CNN)的计算机实现的方法,所述方法包括:
接收对所述卷积神经网络的卷积层的输入,所述卷积层包括1×1滤波器;
使用二元激活的线性组合模拟实值激活函数;
使用每个二元激活处理所述输入以获得一组二元激活结果;
使用二元滤波器的相应线性组合模拟所述1×1滤波器;
将每个二元激活结果与二元滤波器的所述线性组合卷积,以获得一组卷积结果;以及
对所述卷积结果求和以获得所述卷积层的输出,
其中所述输入包括车辆的周围环境的图像,并且经训练的高精度低位卷积神经网络在可操作地耦接到所述车辆的嵌入式设备上实现,并且其中所述方法进一步包括:
将所述经训练的高精度低位卷积神经网络施加至所述图像以执行对象识别;以及
在可操作地耦接到所述车辆的显示器上呈现所述对象识别的结果的通知。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于通用汽车环球科技运作有限责任公司,未经通用汽车环球科技运作有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910462515.6/1.html,转载请声明来源钻瓜专利网。