[发明专利]人机交互方法及系统有效
申请号: | 201710018238.0 | 申请日: | 2017-01-10 |
公开(公告)号: | CN106774936B | 公开(公告)日: | 2020-01-07 |
发明(设计)人: | 蒋化冰;孙斌;吴礼银;康力方;李小山;张干;赵亮;邹武林;徐浩明;廖凯 | 申请(专利权)人: | 上海木木机器人技术有限公司 |
主分类号: | G06F3/01 | 分类号: | G06F3/01 |
代理公司: | 11610 北京太合九思知识产权代理有限公司 | 代理人: | 刘戈 |
地址: | 200336 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 人机交互 方法 系统 | ||
1.一种人机交互方法,其特征在于,包括:
在人机交互界面上,显示至少一个待选对象;
对用户的脸部区域进行图像采集,以获得人脸图像帧;
根据所述人脸图像帧,识别所述用户的头部动作为对象选择动作;
基于所述对象选择动作,标记所述至少一个待选对象中的第一对象为选中状态;
在标记所述第一对象为选中状态后,所述方法还包括:
继续对所述用户的脸部区域进行图像采集,以获得新的人脸图像帧;
根据所述新的人脸图像帧,识别所述用户的头部动作为选择确认动作或选择取消动作;
基于所述选择确认动作或选择取消动作,确认或取消所述第一对象的选中状态;
所述选择确认动作的识别步骤,包括:
根据选定特征点在所述新的人脸图像帧中的坐标,计算所述选定特征点的水平方向坐标变化幅度和垂直方向坐标变化幅度;
若所述选定特征点的垂直方向坐标变化幅度与所述选定特征点的水平方向坐标变化幅度满足第一比例关系,且所述垂直方向坐标变化幅度大于垂直方向坐标变化幅度阈值,确定所述用户的头部动作为点头动作,所述点头动作为所述选择确认动作,其中,所述第一比例关系是所述选定特征点的垂直方向坐标变化幅度为水平方向坐标变化幅度的指定倍数。
2.根据权利要求1所述的方法,其特征在于,所述对象选择动作为头部转动动作;
所述第一对象的选中状态的标记步骤,包括:
根据所述头部转动动作的转动方向,确定所述用户的面部朝向;
根据面部朝向与待选对象之间的相对位置关系,确定所述至少一个待选对象中对应于所述面部朝向的对象,作为所述第一对象;
标记所述第一对象为选中状态。
3.根据权利要求1所述的方法,其特征在于,
所述选择取消动作的识别步骤,包括:
根据选定特征点在所述新的人脸图像帧中的坐标,计算所述选定特征点的水平方向坐标变化幅度和垂直方向坐标变化幅度;
若所述选定特征点的垂直方向坐标变化幅度与所述选定特征点的水平方向坐标变化幅度满足第二比例关系,且所述水平方向坐标变化幅度大于水平方向坐标变化幅度阈值,确定所述用户的头部动作为摇头动作,所述摇头动作为所述选择取消动作。
4.根据权利要求3所述的方法,其特征在于,所述水平方向坐标变化幅度和所述垂直方向坐标变化幅度的计算步骤,包括:
根据所述选定特征点在所述新的人脸图像帧中的横坐标和纵坐标,分别计算平均横坐标和平均纵坐标;
从所述选定特征点在所述新的人脸图像帧中的横坐标与所述平均横坐标的差值的绝对值中,选择最大绝对值作为所述水平方向坐标变化幅度;
从所述选定特征点在所述新的人脸图像帧中的纵坐标与所述平均纵坐标的差值的绝对值中,选择最大绝对值作为所述垂直方向坐标变化幅度。
5.根据权利要求1所述的方法,其特征在于,所述第一对象的选中状态的标记步骤,包括:
以第一方式,突出显示所述第一对象;
所述第一对象的选中状态的确认步骤,包括:
以不同于所述第一方式的第二方式,突出显示所述第一对象;
所述第一方式或所述第二方式包括:高亮、加选择框、加颜色、动画中的至少一种方式。
6.根据权利要求1-5任一项所述的方法,其特征在于,所述至少一个待选对象包括:界面区域和/或界面元素。
7.根据权利要求6所述的方法,其特征在于,所述至少一个待选对象的显示步骤,包括:
将所述人机交互界面垂直划分为多个界面区域;
在所述人机交互界面上,显示所述多个界面区域的边界线。
8.一种人机交互系统,其特征在于,包括:
显示器,用于显示人机交互界面,所述人机交互界面包括至少一个待选对象;
图像采集设备,用于对用户的脸部区域进行图像采集,以获得人脸图像帧;
交互控制设备,连接于所述图像采集设备和所述显示器,用于根据所述图像采集设备采集到的人脸图像帧,识别所述用户的头部动作为对象选择动作,基于所述对象选择动作,标记所述至少一个待选对象中的第一对象为选中状态;
所述图像采集设备还用于:继续对所述用户的脸部区域进行图像采集,以获得新的人脸图像帧;
所述交互控制设备还用于:根据所述图像采集设备采集到的新的人脸图像帧,识别所述用户的头部动作为选择确认动作或选择取消动作,以及基于所述选择确定动作或选择取消动作,确认或取消所述第一对象的选中状态;
所述交互控制设备还用于:根据选定特征点在所述新的人脸图像帧中的坐标,计算所述选定特征点的水平方向坐标变化幅度和垂直方向坐标变化幅度;若所述选定特征点的垂直方向坐标变化幅度与所述选定特征点的水平方向坐标变化幅度满足第一比例关系,且所述垂直方向坐标变化幅度大于垂直方向坐标变化幅度阈值,确定所述用户的头部动作为点头动作,所述点头动作为所述选择确认动作,其中,所述第一比例关系是所述选定特征点的垂直方向坐标变化幅度为水平方向坐标变化幅度的指定倍数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海木木机器人技术有限公司,未经上海木木机器人技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710018238.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种显示设备
- 下一篇:一种增强现实技术中的图像交互方法及其装置