[发明专利]一种基于机器视觉的巷道巡检无人机系统及导航方法有效
申请号: | 201811532340.3 | 申请日: | 2018-12-14 |
公开(公告)号: | CN109753081B | 公开(公告)日: | 2020-08-21 |
发明(设计)人: | 程健;郭雪亮;郭一楠;安鸿波;陈亮;李会军 | 申请(专利权)人: | 煤炭科学研究总院;中国矿业大学 |
主分类号: | G05D1/10 | 分类号: | G05D1/10;G01S15/93;G01C11/04;G01C11/02 |
代理公司: | 南京瑞弘专利商标事务所(普通合伙) 32249 | 代理人: | 李悦声 |
地址: | 100020 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 机器 视觉 巷道 巡检 无人机 系统 导航 方法 | ||
1.一种基于机器视觉的巷道巡检无人机导航方法,其特征是,包括如下步骤:
步骤1)建立巷道巡检无人机系统;所述巷道巡检无人机系统包括无人机载体、超声波距离传感器、控制板、单目相机、机载处理器、飞行控制器和照明灯;
所述超声波距离传感器分别安装在巡检无人机的上、下、左、右、前、后六个方向,所有的超声波距离传感器通过RS485总线和控制板相连,获取与巷道边界的距离信息;
所述控制板通过USART收发器与无人机飞行控制器相连;
所述单目相机通过USB接口连接无人机机载处理器,实时获取和处理图像,并计算无人机偏航角;
所述机载处理器通过USART收发器与无人机飞行控制器相连,实时更新无人机的航向信息,调整其位姿;
所述照明灯安装在无人机载体的正前方,实现单目相机的光照补偿;
步骤2)结合步骤1)所构建的巷道巡检无人机系统,建立单目相机的小孔成像模型,并对单目相机参数进行标定;
步骤3)根据单目相机获得的巷道环境图像,提取巷道中的管道轮廓信息,判定巡检无人机的偏航角,具体过程为:
31)将单目相机采集的巷道RGB图像,沿竖直方向分割成张小图,W为单目相机采集图像的图像宽度;记RGB图像中某一像素的值为r、g、b,转换到HSV颜色空间之后的像素值为h,s,v;对r、g、b归一化为r′=r/255,g′=g/255,b′=b/255,中间变量Cmax=max(r′,g′,b′)、Cmin=min(r′,g′,b′)、Δ=Cmax-Cmin,
v=Cmax;遍历RGB图像上所有的像素点,采用上述公式能够转换到HSV颜色空间;
32)在H、S、V三个颜色通道上选择合适的阈值对图像进行阈值化处理,得到相应的二值图,该阈值满足能够使符合管道颜色特征的像素值为255,其余像素值为0;
33)采用Canny算法,检测二值图中的边缘轮廓,得到满足颜色特征的轮廓;
34)设轮廓面积与其最小包围矩形面积之比的阈值为0.8;根据该阈值,对所有的轮廓进行判定,剔除非管道轮廓,得到满足颜色特征的管道轮廓,且数量记为N2,若N2小于2,则返回步骤31);
35)记m∈[0,N2);设矩形ABCD为第m个管道轮廓最小外接矩形,A、B、C、D为矩形顶点,E为矩形中心点,对角线所在直线为l1m:y=k1mx+b1m和l2m:y=k2mx+b2m,k1m和k2m为对角线斜率,b1m和b2m为对角线在y轴上的截距;点集UPm、DOWNm为第m个管道轮廓在△ADE、△BCE所包围区域内的像素点集合,△ADE为由A、D、E围成的三角形,△BCE为由B、C、E围成的三角形;记p(xmj,ymj)为第m个管道轮廓上第j个像素点,Sm为第m个管道轮廓上的像素点规模,则遍历第m个管道轮廓上的所有像素点,
有(0≤jSm),得到像素点集UPm和DOWNm;
36)采用最小二乘法,拟合得到像素点集UPm和DOWNm分别所对应的直线lupm:y=kumx+bum和ldownm:y=kdmx+bdm,其中,kum和kdm分别表示直线lupm和ldownm的斜率,bum和bdm分别表示直线lupm和ldownm在y轴上的截距;以像素点集UPm所对应的直线lupm为例,记pum(xmi,ymi),0≤iSpm为UPm像素点集中的第i个像素点,Spm为相应像素点集规模,其在直线lupm上的误差函数,记为Emi=ymi-(kumxmi+bum),根据最小化代价函数计算得到直线lupm的斜率kum和截距值bum;
37)记第m个管道轮廓所对应直线lum和ldm之间的斜率差绝对值为em=|kum-kdm|,根据em的大小对N2个管道轮廓依次做升序排列,记其序值为k=sort(em),且有k|miniem=0;选取k=1的管道轮廓,假设其对应的斜率差绝对值为eM,记阈值ε为直线lupm和ldownm的平行度,若满足eMε,则返回步骤31);
38)对k=0和k=1的两个管道轮廓,分别计算其中心点C0(xc0,yc0)和C1(xc1,yc1),和中心点到相机光心的距离L0、L1,以及C0和C1在相机坐标系下的真实坐标P0和P1,具体过程为:
381)计算中心点C0(xc0,yc0)和C1(xc1,yc1),设k=0的管道轮廓,其中心点坐标满足假设一条穿过中心点C0的线段,与直线lupm和ldownm相交于像素点M(xM0,yM0)和N(xN0,yN0),且满足以下约束:kum*xM0+bum=yM0,kdm*xN0+bdm=yN0,(yM0-yc0)/(xM0-xc0)=(yN0-yc0)/(xN0-xc0),选取具有最小线段长度的点,记为M(xM0,yM0)和N(xN0,yN0);同样重复上述过程,能够选取k=1的管道轮廓相对应的像素点M(xM1,yM1)和N(xN1,yN1);
382)对图像上任意一像素点p(xi,yi),记其在相机归一化平面上的坐标为(xn,yn,1),有xn=(xi-cx)/fx,yn=(yi-cy)/fy;对其进行径向和切向畸变矫正之后,得到矫正后的坐标为(xcor,ycor,1),有其中,将矫正后的像素点重投影到图像平面上,得到畸变矫正之后的像素坐标为(xrep,yrep),有xrep=fxxcor+cx,xrep=fyxcor+cy;
383)将M(xM0,yM0)和N(xN0,yN0)代入步骤382),得到其畸变矫正之后的像素坐标为M(xMrep0,yMrep0)和N(xNrep0,yNrep0),进而得到相应线段长度为k=0的管道轮廓在单目相机小孔成像模型中,△EOF与△MON相似,则得到线段MN到相机光心的距离为L0=D/dMN0,其中,D为巷道中通信或电力传输管道的直径;同样重复上述过程,代入M(xM1,yM1)和N(xN1,yN1)得到L1;
384)求解C0和C1以及其在相机坐标系下的真实坐标P0和P1;已知任意一个像素点p(xi,yi)在相机归一化平面去畸变之后的坐标为(xcor,ycor,1);中心点C0在相机归一化平面去畸变之后的坐标为(xcor0,ycor0,1),且该点到相机坐标系原点的距离为L0;记其在相机坐标系下的真实坐标为P0(X0,Y0,Z0),其同相机归一化平面上坐标缩放系数为有X0=s0xcor0,Y0=s0ycor0,Z0=s0;同样重复上述过程,中心点C1在相机归一化平面去畸变之后的坐标为(xcor1,ycor1,1),且该点到相机坐标系原点的距离为L1;记其在相机坐标系下的真实坐标为P1(X1,Y1,Z1),其同相机归一化平面上坐标缩放系数为有X1=s1xcor1,Y1=s1ycor1,Z1=s1;
39)设O-XYZ为相机坐标系,在该坐标系中,管道所在向量为相机光轴单位向量为两者夹角为进而得到偏航角W为单目相机采集图像的图像宽度;
步骤4)根据超声波距离传感器的检测信息,判定巡检无人机与巷道边界和障碍物的距离;
步骤5)根据步骤3)和步骤4)获取的巡检无人机实时位置信息,实施其航向调节。
2.根据权利要求1所述的一种基于机器视觉的巷道巡检无人机导航方法,其特征是,所述步骤2)的具体过程为:
21)单目相机采用棋盘格标定板的方式采集图像;
22)对单目相机参数进行标定,获得相机内参矩阵和畸变向量Vdist=[ktan1 ktan2 ktan3 qrad1 qrad2];其中,fx、fy分别表示单目相机在X和Y方向上的焦距,(cx,cy)表示单目相机主光轴在像素坐标系下的坐标,ktan1、ktan2、ktan3为单目相机切向畸变系数,qrad1、qrad2为单目相机径向畸变系数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于煤炭科学研究总院;中国矿业大学,未经煤炭科学研究总院;中国矿业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811532340.3/1.html,转载请声明来源钻瓜专利网。