[发明专利]基于云计算的网络页面高效精准去重系统在审
申请号: | 202011183312.2 | 申请日: | 2020-10-29 |
公开(公告)号: | CN112307303A | 公开(公告)日: | 2021-02-02 |
发明(设计)人: | 扆亮海;刘文平 | 申请(专利权)人: | 扆亮海 |
主分类号: | G06F16/9532 | 分类号: | G06F16/9532;G06F16/955;G06F16/957;G06F16/958 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 310016 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供的基于云计算的网络页面高效精准去重系统,针对现有的搜索引擎搜集到的网页大部分是静态网页,由于大量转载、抄袭的存在,很多网页的主体内容都是重复的,对于搜索引擎来说,重复网页无形中增加索引存储的负担,同时也会耗费更多的检索时间;本发明结合开源框架设计并实现了基于Hadoop云平台的网页去重系统,采用蜘蛛程序抓取网页后实时检测判重的方式,能更好的衔接搜索引擎的其它模块,基于云计算的网络页面高效精准去重系统在海量网页搜集阶段,就能预先对网页进行前置处理,进行网页相似性检测与发现,除去重复或相似性高的网页,从而提高索引质量,优化检索结果,给用户良好的搜索体验。 | ||
搜索关键词: | 基于 计算 网络 页面 高效 精准 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于扆亮海,未经扆亮海许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011183312.2/,转载请声明来源钻瓜专利网。