[发明专利]意图识别模型的训练以及意图识别方法、装置、电子设备、介质及系统在审

专利信息
申请号: 202210532807.4 申请日: 2022-05-11
公开(公告)号: CN114970465A 公开(公告)日: 2022-08-30
发明(设计)人: 陈芮婷;孙晓迪;张格菁;白文静 申请(专利权)人: 叶睿职业技能培训(上海)有限公司
主分类号: G06F40/157 分类号: G06F40/157;G06N3/04
代理公司: 上海华诚知识产权代理有限公司 31300 代理人: 徐乐乐
地址: 200000 上海市浦东*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 意图 识别 模型 训练 以及 方法 装置 电子设备 介质 系统
【说明书】:

本申请提供了一种意图识别模型的训练以及意图识别方法、电子设备、介质及系统,意图识别模型的训练方法包括,获取训练样本,所述训练样本为包含一个或多个意图的文本;根据字典将所述文本进行词嵌入,以获取词向量;使用所述词向量训练所述意图识别模型,其中,所述意图识别模型包括:第一模型,所述第一模型以所述词向量为输入,输出数字串,所述数字串包含所述词向量相关的信息和隐藏关系;第二模型,所述第二模型以所述数字串作为输入,输出一个或多个意图的起始位置和结束位置。该方法可以准确、高效地识别文本的多个意图。

技术领域

发明涉及人工智能领域,特别涉及一种意图识别模型的训练以及意图识别方法、装置、电子设备、介质及系统。

背景技术

在智能作业批改中,答题者对于每个问题上传答题内容,可用人工智能(AI)技术识别出答题内容中的意图,自动进行批改并进行点评。这种智能作业批改技能够保持一致的评分标准,并减少人力成本。

在相关技术中,为了识别答题内容中的意图,通常是先将答题内容划分为多个段落,再针对每个意图进行识别,利用意图识别模型输出每个词属于某个意图的概率。然而这种方法中,概率最高的词语之间可能不连续从而无法作为模型的输出;另外一个意图识别模型只能对单个意图进行识别,对于具有多个意图的答案只能通过多次训练的方法实现。因此对于文本的多意图识别该方法的识别准确率和效率较低。

发明内容

本申请提供了一种意图识别模型的训练以及意图识别方法、电子设备、介质及系统,可以准确、高效地识别文本的多个意图。

本申请的第一方面公开了一种意图识别模型的训练方法,应用于电子设备,所述方法包括,获取训练样本,所述训练样本为包含一个或多个意图的文本;根据字典将所述文本进行词嵌入,以获取词向量;使用所述词向量训练所述意图识别模型,其中,所述意图识别模型包括:第一模型,所述第一模型以所述词向量为输入,输出数字串,所述数字串包含所述词向量相关的信息和隐藏关系;第二模型,所述第二模型以所述数字串作为输入,输出一个或多个意图的起始位置和结束位置。

在上述第一方面的一种可能的实现中,所述第一模型为BERT模型,所述BERT模型将所述词向量进行标记嵌入、区间段嵌入和位置嵌入处理,以输出所述字符串。

在上述第一方面的一种可能的实现中,所述第二模型为二层神经网络模型,所述二层神经网络模型包括隐藏层和输出层,所述隐藏层确定所述数字串和所述一个或多个意图的关系,所述输出层输出所述一个或多个意图的起始位置和结束位置。

在上述第一方面的一种可能的实现中,所述隐藏层和所述输出层均为全连接层。

在上述第一方面的一种可能的实现中,使用损失函数对所述第一模型和第二模型进行调整,以获取训练好的意图识别模型。

在上述第一方面的一种可能的实现中,所述方法还包括对所述训练文本进行扩充,以获得扩充样本。

在上述第一方面的一种可能的实现中,所述训练样本包含多个意图,对所述训练文本进行扩充包括,按照所述意图的数量生成多个位置,在所述多个位置之间插入空值或废语料,在所述多个位置上放置所述多个意图中的一个意图对应的语料或者空值。

本申请的第二方面公开了一种意图识别的方法,所述方法包括:获取待识别的文本;根据字典将所述待识别的文本进行词嵌入,以获取词向量;将所述词向量输入至意图识别模型,输出意图识别结果;其中,所述意图识别模型是根据本申请第一方面的训练方法训练后的意图识别模型。

在上述第二方面的一种可能的实现中,所述方法还包括根据所述意图识别结果按照预设的规则对所述待识别的文本进行评价。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于叶睿职业技能培训(上海)有限公司,未经叶睿职业技能培训(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210532807.4/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top