[发明专利]一种利用谓宾信息筛选负样本的新意图识别方法在审
申请号: | 202011492756.4 | 申请日: | 2020-12-17 |
公开(公告)号: | CN112417132A | 公开(公告)日: | 2021-02-26 |
发明(设计)人: | 戴新宇;陈陌信;何亮;黄书剑;尹存燕;陈家骏 | 申请(专利权)人: | 南京大学 |
主分类号: | G06F16/335 | 分类号: | G06F16/335;G06F16/38;G06F40/284;G06N3/08 |
代理公司: | 江苏圣典律师事务所 32237 | 代理人: | 胡建华;于瀚文 |
地址: | 210000 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 利用 信息 筛选 样本 意图 识别 方法 | ||
1.一种利用谓宾信息筛选负样本的新意图识别方法,其特征在于,包括如下步骤:
步骤1,输入意图标签和标注的正样本;
步骤2,收集无标注的句子样本,计算无标注样本与意图标签的相似度,排序并筛选后作为用于后续训练意图识别模型的负样本;
步骤3,结合正、负样本训练意图识别模型;
步骤4,使用训练好的意图识别模型对用户输入进行预测。
2.根据权利要求1所述的方法,其特征在于,步骤2包括:
步骤2-1,输入无标注样本和意图标签;
步骤2-2,对无标注样本和意图标签的文本进行分词,然后使用预训练的词向量将分词得到的词语依次映射到对应的向量,得到样本和意图标签的向量化表示;
步骤2-3,对无标注样本进行句法分析,获得它的句法结构信息,识别出其中的谓语和宾语成份;
步骤2-4,计算无标注样本和意图标签之间的相似度,采用词移距离作为相似度指标;
步骤2-5,按照相似度对无标注样本降序排序,选择与正样本同等数量的无标注样本作为训练意图识别模型的负样本。
3.根据权利要求2所述的方法,其特征在于,步骤2-4包括:
步骤2-4-1,汇总所有无标注样本和意图标签的分词结果构造词汇表;
步骤2-4-2,使用nBOW向量d,d′分别表示无标注样本和意图标签中每个词的权重,对于无标注样本,设定词汇表的大小为n,则无标注样本中第i个词的权重di为该词在无标注样本中出现的次数ci除以词表中所有词在无标注样本中出现的次数之和,计算公式为:其中αi是对无标注样本中谓宾成份词权重的增强系数,如果第i个词属于宾语或谓语成份,则αi为大于1的常数,否则αi=1;
对于意图标签,意图标签中第i个词的的权重d′j通过该词在意图标签中出现的次数c′j除以词表中所有词在意图标签中出现的次数之和得到,并对意图标签中的谓宾成份词进行权重增强,计算公式为:
步骤2-4-3,对无标注样本和意图标签之间的每个词都计算两两之间的距离,计算方式为:设定无标注样本和意图标签之间两个词对应的词向量分别表示为wi,wj,通过词向量欧式距离来表示两个词的距离sim(i,j):sim(i,j)=||wi-wj||2;
步骤2-4-4,计算得到无标注样本与意图标签之间的相似度。
4.根据权利要求3所述的方法,其特征在于,步骤2-4-4包括:构造转移矩阵T∈Rn×n,Rn×n表示一个维度为n×n的实数矩阵,其中Tij表示第i个词中权重转移至第j个词上的数量;在计算无标注样本和意图标签之间的相似度时,要求无标注样本中每个词的权重全部转移到意图标签的词上,即通过一种无标注样本与意图标签之间词的映射方式,使得词与词之间通过转移矩阵加权的距离之和最小,得到的最小距离记为无标注样本与意图标签之间的相似度,公式如下:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011492756.4/1.html,转载请声明来源钻瓜专利网。
- 信息记录介质、信息记录方法、信息记录设备、信息再现方法和信息再现设备
- 信息记录装置、信息记录方法、信息记录介质、信息复制装置和信息复制方法
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录装置、信息再现装置、信息记录方法、信息再现方法、信息记录程序、信息再现程序、以及信息记录介质
- 信息记录设备、信息重放设备、信息记录方法、信息重放方法、以及信息记录介质
- 信息存储介质、信息记录方法、信息重放方法、信息记录设备、以及信息重放设备
- 信息存储介质、信息记录方法、信息回放方法、信息记录设备和信息回放设备
- 信息记录介质、信息记录方法、信息记录装置、信息再现方法和信息再现装置
- 信息终端,信息终端的信息呈现方法和信息呈现程序
- 信息创建、信息发送方法及信息创建、信息发送装置