[发明专利]一种单篇文本关键词的提取方法无效
申请号: | 201010290828.7 | 申请日: | 2010-09-21 |
公开(公告)号: | CN101968801A | 公开(公告)日: | 2011-02-09 |
发明(设计)人: | 骆祥峰;梁国宁;殷晓波;张顺香;徐炜民 | 申请(专利权)人: | 上海大学 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 上海上大专利事务所(普通合伙) 31205 | 代理人: | 陆聪明 |
地址: | 200444*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 单篇 文本 关键词 提取 方法 | ||
1.一种单篇文本关键词的提取方法,其特征在于,采用搜索引擎辅助法提取单篇文本的关键词,提高领域文集中单篇文本关键词的提取精度,提高关键词提取的领域特性;所述的搜索引擎辅助法是:通过搜索引擎检验词的普遍性,再通过改进的TFIDF词权公式提取关键词,其具体步骤如下:
(1)打开领域文集中的单篇文本;
(2)文本内容预处理,包括分词、词性标注;
(3)提取有意义的实词;
(4)统计实词的词频;
(5)打开领域文集的所有文本;
(6)统计实词在领域文集中的篇频;
(7)统计搜索引擎检索实词所返回的页面数;
(8)用改进的TFIDF词权公式计算单篇文本所有实词的权重,从中提取一定比例的关键词。
2.按权利要求1所述的一种单篇文本关键词的提取方法,其特征在于,上述步骤(8)中所述的改进的TFIDF词权公式,记为TFMIDF,其计算式如下:
TFMDFt=TFt×(α*DIDFt+(1-α)*SIDFt)
其中TFt是词t在文本中出现的次数;DIDFt是领域文集中的逆文档频率,SIDFt是利用搜索引擎计算的逆文档频率;α是用来调节原始DIDF与SIDF之间的权重;当α=1时,TFMDFt=TFt×DIDFt,词权赋值依赖领域文集数;当α=0时,TFMDFt=TFt×SIDFt,词权赋值不依赖领域文集数,提取关键词直接面向单篇文本。
3.按权利要求2所述的一种单篇文本关键词的提取方法,其特征在于,所述的领域文集中的逆文档频率,其计算公式如下:
其中Nd是领域文集的文本总数,nt是领域文集中包含词t的文本数。
4.按权利要求2所述的一种单篇文本关键词的提取方法,其特征在于,所述的利用搜索引擎计算的逆文档频率,其计算公式如下:
其中Ns等价于搜索引擎的索引总页面数,pt为一个检索查到词t的页面数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海大学,未经上海大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201010290828.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种加工万能孔的钻具
- 下一篇:具有断点功能的仿真器