[发明专利]一种多分割任务的处理方法和装置有效
申请号: | 201810776976.6 | 申请日: | 2018-07-16 |
公开(公告)号: | CN109598184B | 公开(公告)日: | 2021-08-24 |
发明(设计)人: | 赵翔辰;李天;王泮渠;陈鹏飞 | 申请(专利权)人: | 北京图森未来科技有限公司 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62 |
代理公司: | 北京商专永信知识产权代理事务所(普通合伙) 11400 | 代理人: | 邬玥;方挺 |
地址: | 101300 北京市顺*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分割 任务 处理 方法 装置 | ||
1.一种多分割任务的处理方法,其特征在于,包括:
运行预先训练过程,包括:
设置深度神经网络的结构,包括主干网络和多个分支网络;以及
根据训练数据的集合使用监督方法迭代训练所述深度神经网络,得到多分割任务模型,包括:
用多个分割任务之中预先确定的学习难度最大的分割任务对应的已有模型的参数初始化所述深度神经网络的所述主干网络的参数以及所述分割任务对应的所述分支网络的参数,并随机初始化其它所述分支网络的参数;以及
根据所述训练数据的集合使用监督方法依次迭代训练所述深度神经网络的各个分支网络,并对各分支网络对应的分割任务进行学习;
将一个图像数据作为输入提供给预先训练的所述多分割任务模型;其中,所述多个分割任务之间包括共同的任务特征,所述多个分割任务还分别包括各自的特定任务特征;其中,所述图像数据是在实时预测处理过程中通过自动驾驶车辆的车载摄像头获取得到的;以及
运行所述多分割任务模型输出所述多个分割任务的处理结果;
其中,所述方法还包括:
设置多个教师网络,一个教师网络与多个分割任务中的一个任务相对应;
根据训练数据中的真实数据分别训练多个教师网络,得到执行对应分割任务的多个教师模型;
将部分标记的图像数据作为输入分别提供给多个教师模型,多个教师模型分别输出得到用于训练对应分割任务的学习图像数据,学习图像数据是完整标记的图像数据;以及
将所述学习图像数据保存到所述训练数据的集合中。
2.根据权利要求1所述的方法,其特征在于,所述主干网络和所述多个分支网络均包括多个网络层,所述主干网络用于学习所述多个分割任务中的共同任务特征,所述多个分支网络分别用于学习对应的所述分割任务中的所述特定任务特征,其中,所述深度神经网络的输入数据是所述主干网络的输入,所述主干网络的输出数据是所述各个分支网络的输入,所述各个分支网络的输出数据是所述深度神经网络的输出。
3. 根据权利要求2所述的方法,其特征在于,根据训练数据的集合使用监督方法迭代训练所述深度神经网络,包括:
对于一个分支网络,将所述分支网络输出的预测值与训练数据中的真实值输入到一个预定义的损失函数中,所述损失函数输出一个损失值;以及
在所述损失值大于一个预定的置信度值的情况下,迭代修改分支网络和主干网络中的参数;在所述损失值小于或等于所述预定的置信度值的情况下,确定所述分支网络的迭代训练完成。
4.根据权利要求3所述的方法,其特征在于,迭代修改分支网络中的参数,包括:
在一次迭代训练的后向传播过程中,确定一个分支网络的学习率为预设的网络学习率与所述分支网络的预设权重值的乘积;以及
根据确定的所述分支网络的学习率修改所述分支网络中的参数。
5.根据权利要求3所述的方法,其特征在于,迭代修改主干网络中的参数,包括:
主干网络的最后一层包括一个梯度平衡层;
在一次迭代训练的后向传播过程中,确定所述梯度平衡层的梯度为各个分支网络的梯度与各分支网络的预设权重值的乘积的和值,并将确定的梯度值回传给主干网络中的下一个网络层;以及
对于主干网络中除梯度平衡层之外的其它每个网络层,根据上一层回传的梯度修改所述层的参数。
6.根据权利要求5所述的方法,其特征在于,训练得到的多分割任务模型中不包括梯度平衡层。
7. 根据权利要求1所述的方法,其特征在于,所述方法还包括:
设置所述深度神经网络为学生网络;以及
根据训练数据的集合使用监督方法迭代训练深度神经网络,得到多分割任务模型,包括:
训练学生网络学习多个教师模型各自对相对应的分割任务的理解,得到多分割任务模型。
8.根据权利要求2所述的方法,其特征在于,训练得到的多分割任务模型中不包括softmax层。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京图森未来科技有限公司,未经北京图森未来科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810776976.6/1.html,转载请声明来源钻瓜专利网。