[发明专利]一种利用谓宾信息筛选负样本的新意图识别方法在审

专利信息
申请号: 202011492756.4 申请日: 2020-12-17
公开(公告)号: CN112417132A 公开(公告)日: 2021-02-26
发明(设计)人: 戴新宇;陈陌信;何亮;黄书剑;尹存燕;陈家骏 申请(专利权)人: 南京大学
主分类号: G06F16/335 分类号: G06F16/335;G06F16/38;G06F40/284;G06N3/08
代理公司: 江苏圣典律师事务所 32237 代理人: 胡建华;于瀚文
地址: 210000 江*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 利用 信息 筛选 样本 意图 识别 方法
【权利要求书】:

1.一种利用谓宾信息筛选负样本的新意图识别方法,其特征在于,包括如下步骤:

步骤1,输入意图标签和标注的正样本;

步骤2,收集无标注的句子样本,计算无标注样本与意图标签的相似度,排序并筛选后作为用于后续训练意图识别模型的负样本;

步骤3,结合正、负样本训练意图识别模型;

步骤4,使用训练好的意图识别模型对用户输入进行预测。

2.根据权利要求1所述的方法,其特征在于,步骤2包括:

步骤2-1,输入无标注样本和意图标签;

步骤2-2,对无标注样本和意图标签的文本进行分词,然后使用预训练的词向量将分词得到的词语依次映射到对应的向量,得到样本和意图标签的向量化表示;

步骤2-3,对无标注样本进行句法分析,获得它的句法结构信息,识别出其中的谓语和宾语成份;

步骤2-4,计算无标注样本和意图标签之间的相似度,采用词移距离作为相似度指标;

步骤2-5,按照相似度对无标注样本降序排序,选择与正样本同等数量的无标注样本作为训练意图识别模型的负样本。

3.根据权利要求2所述的方法,其特征在于,步骤2-4包括:

步骤2-4-1,汇总所有无标注样本和意图标签的分词结果构造词汇表;

步骤2-4-2,使用nBOW向量d,d′分别表示无标注样本和意图标签中每个词的权重,对于无标注样本,设定词汇表的大小为n,则无标注样本中第i个词的权重di为该词在无标注样本中出现的次数ci除以词表中所有词在无标注样本中出现的次数之和,计算公式为:其中αi是对无标注样本中谓宾成份词权重的增强系数,如果第i个词属于宾语或谓语成份,则αi为大于1的常数,否则αi=1;

对于意图标签,意图标签中第i个词的的权重d′j通过该词在意图标签中出现的次数c′j除以词表中所有词在意图标签中出现的次数之和得到,并对意图标签中的谓宾成份词进行权重增强,计算公式为:

步骤2-4-3,对无标注样本和意图标签之间的每个词都计算两两之间的距离,计算方式为:设定无标注样本和意图标签之间两个词对应的词向量分别表示为wi,wj,通过词向量欧式距离来表示两个词的距离sim(i,j):sim(i,j)=||wi-wj||2

步骤2-4-4,计算得到无标注样本与意图标签之间的相似度。

4.根据权利要求3所述的方法,其特征在于,步骤2-4-4包括:构造转移矩阵T∈Rn×n,Rn×n表示一个维度为n×n的实数矩阵,其中Tij表示第i个词中权重转移至第j个词上的数量;在计算无标注样本和意图标签之间的相似度时,要求无标注样本中每个词的权重全部转移到意图标签的词上,即通过一种无标注样本与意图标签之间词的映射方式,使得词与词之间通过转移矩阵加权的距离之和最小,得到的最小距离记为无标注样本与意图标签之间的相似度,公式如下:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202011492756.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top