[发明专利]自动化外呼测试方法、装置、计算机设备及存储介质有效

专利信息
申请号: 202310506120.8 申请日: 2023-05-08
公开(公告)号: CN116233311B 公开(公告)日: 2023-07-14
发明(设计)人: 陈烁隍;孔海明;王田丰 申请(专利权)人: 天津金城银行股份有限公司
主分类号: H04M3/28 分类号: H04M3/28;H04M3/493;G06F9/38;G06F9/50
代理公司: 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 代理人: 梁韬
地址: 300452 天津市滨*** 国省代码: 天津;12
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 自动 化外 测试 方法 装置 计算机 设备 存储 介质
【说明书】:

发明涉及测试技术领域,提供一种自动化外呼测试方法、装置、计算机设备及存储介质,该方法包括:通过对话流测试,获取外呼系统的测试数据,所述测试数据包括对话流中的多个对话节点以及对应的对话语句;计算所述对话节点的数量,以确定针对每个对话节点的对话语句进行意图识别任务的数量;根据测试设备的处理器配置,将各个所述意图识别任务分为多个并行任务组,通过生成相应数量的线程,并行执行各个所述意图识别任务,从而得到各个对话节点的意图识别结果;根据所述意图识别结果,得到测试结果。使得多个节点的测试任务可以并行执行,大大提高测试效率。

技术领域

本发明涉及自动化测试领域,尤其涉及一种自动化外呼测试方法、装置、计算机设备及存储介质。

背景技术

目前的银行系统中,会使用自动外呼系统来进行业务的推广操作,但是外呼系统因为是通过人工智能识别然后从既定的语音库中挑选语句反馈给客户,因此存在效率低的问题,为此需要通过高效率的测试来测试出自动外呼系统的缺陷,以使得开发人员可以更好的改进。现有的智能外呼系统测试技术方案是测试人员为要测试的对话流的节点编写脚本,配置话术和话术预期匹配的意图,然后进行单元测试,这种测试没有足够的测试集,且测试不够全面,缺乏生产环节对流程的自动化测试和针对性分析,并且因为语音包含的意图众多,所以其分支众多,当前的测试方式效率低下,使用时间过长,大大拖延了开发改进的进度。

发明内容

第一方面,本申请提供了一种自动化外呼测试方法,包括:

通过对话流测试,获取外呼系统的测试数据,所述测试数据包括对话流中的多个对话节点以及对应的对话语句;

计算所述对话节点的数量,以确定针对每个对话节点的对话语句进行意图识别任务的数量;

根据测试设备的处理器配置,将所有所述意图识别任务分为多个并行任务组,并通过生成相应数量的线程,以并行执行各个所述意图识别任务,从而得到各个对话节点的意图识别结果;

根据所述意图识别结果,得到测试结果。

进一步的,所述根据测试设备的处理器配置,将所有所述意图识别任务分为多个并行任务组,通过生成相应数量的线程,包括:

获取测试设备配置的处理器的核心数,根据所述核心数计算得到所述任务组数,并生成与所述任务组数相同的线程。

进一步的,所述对话流测试包括测试阶段测试;

当处于所述测试阶段测试时,所述得到各个对话节点的意图识别结果,包括:

获取各个所述对话节点的话术池,并识别各个所述对话节点的意图量;

根据所述话术池和所述意图量,分别计算每个对话节点的回复准确率和兜底率,以及整个对话流的回复准确率和兜底率。

进一步的,所述分别计算每个对话节点的回复准确率和兜底率,包括:

从测试日志中获取所述对话节点的意图量、回复话术准确量和兜底量;

所述回复准确率的计算表达式为:

式中,y为所述回复准确率,M为所述意图量,W为所述回复话术准确量;

所述兜底率的计算表达式为:

式中,Z为所述兜底率,X为所述兜底量。

进一步的,当处于所述测试阶段测试时,所述根据所述意图识别结果,得到测试结果,包括:

将计算得到的回复准确率和兜底率分别与预设的对应目标值进行对比,以确定当前版本的所述外呼系统是否可以上线工作。

进一步的,所述对话流测试包括生产阶段测试;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津金城银行股份有限公司,未经天津金城银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310506120.8/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top