[发明专利]停用词的挖掘方法和装置、搜索方法和装置、评测方法和装置有效
申请号: | 201210572702.8 | 申请日: | 2012-12-25 |
公开(公告)号: | CN103902552B | 公开(公告)日: | 2019-03-26 |
发明(设计)人: | 赵耀;胡熠;刘磊;程佳 | 申请(专利权)人: | 深圳市世纪光速信息技术有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F16/953 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 何平;邓云鹏 |
地址: | 518057 广东省深圳市*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 用词 挖掘 方法 装置 搜索 评测 | ||
1.一种停用词的挖掘方法,包括以下步骤:
获取查询日志,所述查询日志用于记录用户输入查询串进行查询行为以及触发查询结果行为产生的信息;
获取查询日志中记录的属性信息,并根据所述属性信息生成停用词集,所述属性信息包括查询串中查询词的逆向文档频率、查询词的相对词权重、因修改查询串行为产生的查询词集合、因触发行为产生的查询串与网页地址的对应关系集。
2.根据权利要求1所述的停用词的挖掘方法,其特征在于,所述属性信息包括查询日志中记录的查询串中查询词的逆向文档频率;
根据所述属性信息生成停用词集的步骤包括:
获取文档集中所有查询词的逆向文档频率;
将所述逆向文档频率进行排序;
从排序结果中选取预定个数逆向文档频率最小的查询词,生成停用词集。
3.根据权利要求1所述的停用词的挖掘方法,其特征在于,所述属性信息包括查询日志中记录的查询词的相对词权重;
根据所述属性信息生成停用词集的步骤包括:
获取训练数据,并抽取训练数据中查询词的特征;
根据所述查询词的特征进行训练,构建查询词的相对词权重估算模型;
根据所述相对词权重估算模型对获取的第一预定时间内的查询串中的查询词进行分析,得到低权重词集;
统计所述低权重词集中各查询词的词频;
按所述词频对查询词进行排序;
选取预定个数词频最高的查询词,生成停用词集。
4.根据权利要求3所述的停用词的挖掘方法,其特征在于,所述获取训练数据的步骤包括:
根据所述查询日志中记录的查询串与网页地址的对应关系,分别获取网页内容及查询串中的查询词;
判断所述查询串中查询词是否出现在所述网页内容中,若是,则所述查询词为高权重词,若否,则所述查询词为低权重词,将所述高权重词和低权重词作为训练数据。
5.根据权利要求1所述的停用词的挖掘方法,其特征在于,所述属性信息包括查询日志中记录的因修改查询串行为产生的查询词集合;
根据所述属性信息生成停用词集的步骤包括:
采集第二预定时间内的查询日志中记录的查询行为,根据所述查询行为中查询串的变化生成查询词集;
对查询词集合求并集,选取并集中出现频率最高的预定个数的查询词,生成停用词集。
6.根据权利要求5所述的停用词的挖掘方法,其特征在于,还包括步骤:
根据所述查询行为中查询串的变化生成查询词关联集合;
对查询词关联集合求并集,选取并集中出现频率最高的预定个数的查询词对,生成冗余搭配词表。
7.根据权利要求1所述的停用词的挖掘方法,其特征在于,所述属性信息包括查询日志中记录的因触发行为产生的查询串与网页地址的对应关系集;
根据所述属性信息生成停用词集的步骤包括:
获取查询日志中记录的触发行为产生的查询串与网页地址的对应关系集;
从所述对应关系集中查找得到同一网页地址对应的所有查询串;
获取所有同一网页地址对应的所有查询串的每个查询词的冗余度;
按冗余度大小对查询词进行排序;
选取冗余度最大的预定个数的查询词,生成停用词集。
8.一种停用词的挖掘装置,其特征在于,包括:
获取模块,用于获取查询日志,所述查询日志用于记录用户输入查询串进行查询行为以及触发查询结果行为产生的信息;
生成模块,用于获取查询日志中记录的属性信息,并根据所述属性信息生成停用词集,所述属性信息包括查询串中查询词的逆向文档频率、查询词的相对词权重、因修改查询串行为产生的查询词集合、因触发行为产生的查询串与网页地址的对应关系集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市世纪光速信息技术有限公司,未经深圳市世纪光速信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210572702.8/1.html,转载请声明来源钻瓜专利网。