[发明专利]结合时空增强光度损失的自监督单目深度估计方法和装置在审
申请号: | 202210475411.0 | 申请日: | 2022-04-29 |
公开(公告)号: | CN114998411A | 公开(公告)日: | 2022-09-02 |
发明(设计)人: | 李嘉茂;张天宇;朱冬晨;张广慧;石文君;刘衍青;张晓林 | 申请(专利权)人: | 中国科学院上海微系统与信息技术研究所 |
主分类号: | G06T7/55 | 分类号: | G06T7/55;G06T7/70 |
代理公司: | 上海泰博知识产权代理有限公司 31451 | 代理人: | 钱文斌 |
地址: | 200050 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 结合 时空 增强 光度 损失 监督 深度 估计 方法 装置 | ||
1.一种结合时空增强光度损失的自监督单目深度估计方法,其特征在于,包括以下步骤:
获取图像序列中相邻的若干帧图像;
将所述图像输入至训练好的深度学习网络中得到深度信息和位姿信息,其中,所述深度学习网络的光度损失信息基于深度感知像素对应关系的空间变换模型得到,并利用全向自动掩膜来避免运动物体的像素参与光度误差的计算。
2.根据权利要求1所述的结合时空增强光度损失的自监督单目深度估计方法,其特征在于,所述光度损失信息基于深度感知像素对应关系的空间变换模型得到具体为:
对于远处区域利用单应矩阵进行空间变换,并构造第一重建图;其中,所述远处区域将远处区域看作为一个无穷远的平面;
利用基础矩阵进行空间变换,并构造第二重建图;
通过两种像素对应关系求解出基于所述第一重建图的光度误差图和基于所述第二重建图的光度误差图,然后逐像素选取最小值,得到最终的光度损失信息。
3.根据权利要求1所述的结合时空增强光度损失的自监督单目深度估计方法,其特征在于,所述利用全向自动掩膜来避免运动物体的像素参与光度误差的计算具体为:
通过预训练网络预测目标帧的初始深度和初始位姿,并生成初始重建图;
将干扰项加到所述初始位姿上,并利用空间变换得到若干假设的重建帧;利用所述假设的重建帧,结合所述目标帧的光度,生成多个光度误差图,并利用所述多个光度误差图得到多个二值化掩膜;
从所述多个二值化掩膜中选取最小值作为最终的掩膜。
4.根据权利要求3所述的结合时空增强光度损失的自监督单目深度估计方法,其特征在于,所述干扰项为平移扰动项,包括:[tmax,0,0]、[-tmax,0,0]、[0,0,tmax]和[0,0,-tmax],其中,tmax表示初始化的平移向量中的最大值。
5.一种结合时空增强光度损失的自监督单目深度估计装置,其特征在于,包括:
获取模块,用于获取图像序列中相邻的若干帧图像;
估计模块,用于将所述图像输入至训练好的深度学习网络中得到深度信息和位姿信息;
所述深度学习网络的光度损失信息基于深度感知像素对应关系模块的空间变换模型得到,并利用全向自动掩膜模块来避免运动物体的像素参与光度误差的计算。
6.根据权利要求5所述的结合时空增强光度损失的自监督单目深度估计装置,其特征在于,所述深度感知像素对应关系模块包括:
第一构造单元,用于对于远处区域利用单应矩阵进行空间变换,并构造第一重建图;
其中,所述远处区域将远处区域看作为一个无穷远的平面;
第二构造单元,用于利用基础矩阵进行空间变换,并构造第二重建图;
光度损失信息获取单元,用于通过两种像素对应关系求解出基于所述第一重建图的光度误差图和基于所述第二重建图的光度误差图,然后逐像素选取最小值,得到最终的光度损失信息。
7.根据权利要求5所述的结合时空增强光度损失的自监督单目深度估计装置,其特征在于,所述全向自动掩膜模块包括:
初始重建图生成单元,用于通过预训练网络预测目标帧的初始深度和初始位姿,并生成初始重建图;
二值化掩膜生成单元,用于将干扰项加到所述初始位姿上,并利用空间变换得到若干假设的重建帧;利用所述假设的重建帧,结合所述目标帧的光度,生成多个光度误差图,并利用所述多个光度误差图得到多个二值化掩膜
掩膜选取单元,用于从所述多个二值化掩膜中选取最小值作为最终的掩膜。
8.根据权利要求7所述的结合时空增强光度损失的自监督单目深度估计装置,其特征在于,所述干扰项为平移扰动项,包括:[tmax,0,0]、[-tmax,0,0]、[0,0,tmax]和[0,0,-tmax],其中,tmax表示初始化的平移向量中的最大值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院上海微系统与信息技术研究所,未经中国科学院上海微系统与信息技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210475411.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种提升物联网施工诊断效率的系统
- 下一篇:一种木质托盘检测装置