[发明专利]回归视频画面中屏幕的方法、装置、可读介质及电子设备有效
申请号: | 201911025490.X | 申请日: | 2019-10-25 |
公开(公告)号: | CN110781888B | 公开(公告)日: | 2022-07-12 |
发明(设计)人: | 李佩易;王长虎 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06V10/25 | 分类号: | G06V10/25;G06V10/774;G06V10/764;G06V10/82;G06K9/62;G06N3/08 |
代理公司: | 北京英创嘉友知识产权代理事务所(普通合伙) 11447 | 代理人: | 曾尧 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 回归 视频 画面 屏幕 方法 装置 可读 介质 电子设备 | ||
1.一种回归视频画面中屏幕的方法,其特征在于,所述方法包括:
针对视频的一帧图像,将所述图像输入预设网络回归模型,得到所述预设网络回归模型输出的图像的分类结果,其中,所述分类结果为含有屏幕或不含屏幕,所述预设网络回归模型的边框BBox回归用于,在分类结果为含有屏幕时,回归输出按固定顺序依次表征屏幕的四个角的坐标;
响应于获取到用于表征屏幕的四个角的坐标,根据所述四个角的坐标,回归所述屏幕的边框;
根据所述预设网络回归模型输出的所述屏幕的四个角的坐标,计算所述屏幕的左上角到左下角的距离Ll和所述屏幕的右上角到右下角的距离Lr;
根据所述屏幕的四个角的坐标、Ll和Lr,计算所述屏幕左上角与左下角连线构成的边到右上角与右下角连线构成的边之间的距离L0;
确定真实世界中屏幕的高宽比R;
根据L0和R,通过公式确定所述屏幕相对于拍摄所述视频的摄像头的角度偏差;
其中,
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述预设网络回归模型输出的所述屏幕的四个角的坐标,计算所述屏幕的面积占所述图像面积的比例。
3.根据权利要求1或2所述的方法,其特征在于,所述预设网络回归模型是通过以下方式训练得到的:
针对图像集,根据用户输入的标注指令对该图像集内包含有屏幕的图像进行标注,所述标注指令为根据固定顺序依次表示的该屏幕的四个角的坐标;
根据所述图像集和损失函数训练,得到所述预设网络回归模型;
其中,所述损失函数中的定位损失函数为Smooth L1,Smooth L1的输入和输出为根据固定顺序依次表征屏幕的四个角的坐标。
4.根据权利要求3所述的方法,其特征在于,根据用户输入的标注指令对该图像集内包含有屏幕的图像进行标注,包括:
在所述含有屏幕的图像的屏幕的至少一个角在所述图像外时,根据用户输入的标注指令将所述屏幕在所述图像外的角标注在所述图像外。
5.根据权利要求3所述的方法,其特征在于,所述损失函数中的置信度损失函数为交叉熵损失函数。
6.一种回归视频画面中屏幕的装置,其特征在于,包括:
计算模块,用于针对视频的一帧图像,将所述图像输入预设网络回归模型,得到所述预设网络回归模型输出的图像的分类结果,其中,所述分类结果为含有屏幕或不含屏幕,所述预设网络回归模型的边框BBox回归用于,在分类结果为含有屏幕时,回归输出按固定顺序依次表征屏幕的四个角的坐标;
回归模块,用于响应于获取到用于表征屏幕的四个角的坐标,根据所述四个角的坐标,回归所述屏幕的边框;
角度偏差计算模块,用于根据所述预设网络回归模型输出的所述屏幕的四个角的坐标,计算所述屏幕的左上角到左下角的距离Ll和所述屏幕的右上角到右下角的距离Lr;根据所述屏幕的四个角的坐标、Ll和Lr,计算所述屏幕左上角与左下角连线构成的边到右上角与右下角连线构成的边之间的距离L0;确定真实世界中屏幕的高宽比R;根据L0和R,通过公式确定所述屏幕相对于拍摄所述视频的摄像头的角度偏差;
其中,
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
面积占比模块,用于根据所述预设网络回归模型输出的所述屏幕的四个角的坐标,计算所述屏幕的面积占所述图像面积的比例。
8.一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-5中任一项所述方法的步骤。
9.一种电子设备,其特征在于,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现权利要求1-5中任一项所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911025490.X/1.html,转载请声明来源钻瓜专利网。