[发明专利]一种分布式搜索引擎系统及ID映射表扩充方法有效
申请号: | 200610061351.9 | 申请日: | 2006-06-23 |
公开(公告)号: | CN101071423A | 公开(公告)日: | 2007-11-14 |
发明(设计)人: | 杨海松 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518057广东省深圳市高新科*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种分布式搜索引擎系统及ID映射表扩充方法,包括:至少一文本切分子系统,文本切分子系统包括:切分模块、ID映射模块及ID映射表存储模块,切分模块将从源文本中提取出的切分单元发至ID映射模块,ID映射模块在ID映射表中查找与切分单元对应的文本ID,并填入切分单元信息中,还包括:新词统计表存储模块,用于保存由未在ID映射表中查找到的切分单元及出现次数构成的新词统计表;切分子系统收发模块:用于获取新词统计表,并更新ID映射表,清除新词统计表中已在ID映射表中更新过ID映射关系的切分单元及其出现次数;ID映射模块,用于在新词统计表中统计在ID映射表中未查找到的切分单元及其出现的次数。 | ||
搜索关键词: | 一种 分布式 搜索引擎 系统 id 映射 扩充 方法 | ||
【主权项】:
1.一种分布式搜索引擎系统,包括:文本切分子系统(1)至(N),N≥1,其中,每个文本切分子系统包括:切分模块(10)、ID映射模块(20)及ID映射表存储模块(30),切分模块(10)接收从互联网抓取的源文本,并从源文本中提取出切分单元,传送至ID映射模块(20),ID映射模块(20)查找ID映射表存储模块(30)中的ID映射表中与切分单元对应的文本ID,并将其填入切分单元信息中,其特征在于,所述文本切分子系统还包括:新词统计表存储模块(40),用于保存由ID映射模块查找ID映射表存储模块中的ID映射表时未在ID映射表中查找到的新切分单元及其出现的次数值构成的新词统计表;以及,切分子系统收发模块(50):用于从新词统计表存储模块中获取新词统计表,并在ID映射表存储模块中的ID映射表中建立新切分单元与文本ID的映射关系,清除新词统计表存储模块中的新词统计表中已在ID映射表中建立文本ID映射关系的切分单元及其出现次数值;所述ID映射模块(20),进一步用于向新词统计表存储模块中的新词统计表中统计在ID映射表中未查找到的切分单元及其出现的次数值。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/200610061351.9/,转载请声明来源钻瓜专利网。
- 上一篇:一种实现网络数据高效传递的方法及其装置
- 下一篇:一种P2P流媒体发布装置