[发明专利]基于类标关系的短文本扩充方法有效
申请号: | 201510288434.0 | 申请日: | 2015-05-29 |
公开(公告)号: | CN104850650B | 公开(公告)日: | 2018-04-10 |
发明(设计)人: | 靳晓明;张瑞容;张世韬 | 申请(专利权)人: | 清华大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙)11201 | 代理人: | 张大威 |
地址: | 100084 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 关系 文本 扩充 方法 | ||
1.一种基于类标关系的短文本扩充方法,其特征在于,包括以下步骤:
(1)对于给定的初始短文本数据集,构建类标文本集合;
(2)提取类标文本的特征;
(3)根据提取的特征,并计算不同的类标文本的相似度;
(4)设定阈值,对类标文本进行聚类,形成类标文本簇;
(5)提取类标文本簇的特征;
(6)根据提取的类标文本簇的特征,从外部语料信息中筛选辅助数据集;
(7)针对不同类标的辅助数据集进行主题挖掘,获取辅助数据集的主题信息;
(8)将初始短文本数据集中的短文本在对应类标的辅助数据集进行主题推断;
(9)根据推断结果为初始短文本数据集扩充带有类标信息的主题编号;
(10)得到扩充后的短文本集。
2.根据权利要求1所述的基于类标关系的短文本扩充方法,其特征在于,在步骤(2)中,对类标文本的特征提取方法采用tf-idf算法,所述tf-idf算法为:
假设类标文本集合中共有D个类标文本,针对当前的类标文本dj中某一个特定词语在dj中出现的频率为:
其中,ni,j是该特定词语在dj中出现的次数,分母表示dj中出现的所有词语的出现次数之和,其中D为自然数,k是变量;
针对该特定词语的idfi则为:
其中,|D|是类标文本集合中的文本总数,|{m:ti∈dm}|是指类标文本集合中包含词语ti的文本数目,dm表示第m个类标文本;
所述特定词语在所述类标文本dj中的权重为:tfidfi,j=tfi,j×idfi。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510288434.0/1.html,转载请声明来源钻瓜专利网。