[发明专利]一种用于机器人智能化服务的空间环境识别方法及系统有效
申请号: | 202010228789.1 | 申请日: | 2020-03-27 |
公开(公告)号: | CN111496784B | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 吴皓;马庆;焦梦林 | 申请(专利权)人: | 山东大学 |
主分类号: | B25J9/16 | 分类号: | B25J9/16;B25J11/00 |
代理公司: | 济南圣达知识产权代理有限公司 37221 | 代理人: | 祖之强 |
地址: | 250061 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 机器人 智能化 服务 空间 环境 识别 方法 系统 | ||
1.一种用于机器人智能化服务的空间环境识别方法,其特征在于,包括以下步骤:
获取待识别空间环境区域的至少一幅图像;
根据获取的图像,采用预设的视觉关系获取模型,获取图像中的物品特征和物品间的关系特征,进而得到图像中物品的视觉关系三元组;
物品间的关系特征利用目标间的空间关系来表征,具体为:
三元组特征包括图像中物体的词向量,目标间的关系使用[x1,x2,x3]表示,x1代表目标1,x3代表目标3,x2代表关系,则空间关系s表示如下:
其中,代表目标物体的预测框,其中i=1或3,为预测框的中心坐标,wi和hi分别代表预测框的宽度和高度,W和H代表目标1和目标3预测框相交部分的宽度和高度,是对相关空间关系的编码;
在获取到空间关系s后,将s输入到多层感知器中,得到和词向量维数相同的特征表示x2,从而获得三元组的特征表达;
根据获得的物品特征,利用预设属性获取模型,得到各个物品的属性;
根据得到的各个物品的视觉关系三元组和各个物品的属性,得到当前图像内的物品多关系图;
对获取的待识别环境区域的每幅图像进行处理得到物品多关系图,根据得到的每幅图像的物品多关系图构建机器人语义视觉空间,实现对空间环境的识别。
2.如权利要求1所述的用于机器人智能化服务的空间环境识别方法,其特征在于,预设的视觉关系获取模型,包括用于目标检测的卷积神经网络和双向循环神经网络,具体为:
根据卷积神经网络对获得的图像进行目标检测,获取目标物品的语义及其检测框的坐标信息,将目标物品和非目标物品的语义进行特征编码,同时根据检测框的坐标信息获取物品间的关系特征,得到三元组特征;
将得到的三元组特征输入到双向循环神经网络中进行视觉关系预测,得到图像中各个物品的视觉关系三元组。
3.如权利要求2所述的用于机器人智能化服务的空间环境识别方法,其特征在于,预设的视觉关系获取模型还包括动态过滤模块,所述动态过滤模块通过预设的动态对象列表,当检测到视觉关系三元组含有动态对象时,将该视觉关系三元组滤除。
4.如权利要求3所述的用于机器人智能化服务的空间环境识别方法,其特征在于,如果某一类对象视觉关系变化速度超过预设阈值,将对象添加进动态对象列表中进行对应的视觉关系三元组的滤除。
5.如权利要求1所述的用于机器人智能化服务的空间环境识别方法,其特征在于,利用预设属性获取模型,得到各个物品的属性,具体为:
以物品的语义为关键字在预设数据库中搜寻物品相关关系,得到多个结果字符串;
根据获得的结果字符串,采用BERT-CRF模型,将结果中的属性关键字识别出来,具体为:
利用BERT模型提取物品的语义文本信息并进行特征编码,将编码输入到CRF层进行信息解码,得到各个物品的标注序列。
6.如权利要求1所述的用于机器人智能化服务的空间环境识别方法,其特征在于,所述物品多关系图包括多个节点和多条边,所述节点用于存储实体语义和物品属性信息,边代表实体之间以及实体和属性之间的关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东大学,未经山东大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010228789.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种电泳显示膜片及电泳显示器
- 下一篇:一种环保疏浚气幕帘的供气方法与系统