[发明专利]录制脚本的生成方法和装置及电子装置有效
申请号: | 201911192980.9 | 申请日: | 2019-11-28 |
公开(公告)号: | CN111124888B | 公开(公告)日: | 2021-09-10 |
发明(设计)人: | 俞瑜;方李志;赖勇辉 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F11/36 | 分类号: | G06F11/36;G06F3/0488 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 周婷婷 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 录制 脚本 生成 方法 装置 电子 | ||
1.一种录制脚本的生成方法,其特征在于,包括:
在目标终端的触控屏幕上获取目标触控操作,其中,所述触控屏幕上显示目标应用的应用界面;
在所述目标触控操作为点击操作的情况下,根据所述目标触控操作的目标触控坐标,确定所述点击操作的目标操作对象包括:
获取所述应用界面上的各个静态对象所在的区域,包括:识别所述应用界面上的按钮对象所在的区域,其中,所述各个静态对象包括所述按钮对象;和/或
识别所述应用界面上的文字对象所在的区域,其中,所述各个静态对象包括所述文字对象;
在所述各个静态对象包括所述按钮对象的情况下,所述识别所述应用界面上的按钮对象所在的区域,包括:通过跨平台计算机视觉库识别所述应用界面上的所述按钮对象所在的区域,其中,所述跨平台计算机视觉库安装在所述目标终端上;
在所述各个静态对象包括所述文字对象的情况下,所述识别所述应用界面上的文字对象所在的区域,包括:通过光学字符识别OCR模块识别所述应用界面上的文字对象所在的区域;
在所述目标触控坐标位于所述各个静态对象中的目标静态对象所在的区域中的情况下,将所述目标静态对象确定为所述目标操作对象;
所述根据所述目标触控操作的目标触控坐标,确定所述点击操作的目标操作对象还包括:获取所述应用界面上的各个动态对象所在的区域包括:识别所述应用界面上的高亮对象所在的区域,其中,所述各个动态对象包括所述高亮对象;
在所述目标触控坐标位于所述各个动态对象中的目标动态对象所在的区域中的情况下,将所述目标动态对象确定为所述目标操作对象;
所述根据所述目标触控操作的目标触控坐标,确定所述点击操作的目标操作对象还包括:通过预先训练好的目标神经网络识别模型,在所述应用界面上识别出除静态对象和动态对象之外的各个有效操作对象所在的区域;
在所述目标触控坐标位于所述各个有效操作对象中的目标有效操作对象所在的区域中的情况下,将所述目标有效操作对象确定为所述目标操作对象;
在所述目标应用的录制脚本中记录目标录制信息,其中,所述目标录制信息包括:所述触控坐标和目标操作信息,所述目标操作信息用于表示对所述目标操作对象执行了所述目标触控操作的脚本信息;
在所述目标操作对象为静态对象时,所述目标操作信息包括所述文字对象的内容和识别类型;
在所述目标操作对象为动态对象时,所述目标操作信息包括对所述高亮对象的操作信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911192980.9/1.html,转载请声明来源钻瓜专利网。