[发明专利]用于大数据分析的云端数据处理方法在审
申请号: | 201810226613.5 | 申请日: | 2018-03-19 |
公开(公告)号: | CN108388668A | 公开(公告)日: | 2018-08-10 |
发明(设计)人: | 张悠;陈熹 | 申请(专利权)人: | 四川意高汇智科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京天奇智新知识产权代理有限公司 11340 | 代理人: | 杨春 |
地址: | 610000 四川省成都市高新*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种用于大数据分析的云端数据处理方法,该方法包括:将爬取得到的主页面数据以及次级页面数据分别存储于不同的Hadoop存储节点中;根据主页面数据以及次级页面数据之间的关联关系,建立用于进行多维搜索的索引结构;搜索索引结构,获取与分词过滤项对应的命中主页面ID集合,以及与命中主页面ID对应的命中次级页面ID集合;按照预定义排序规则对与命中主页面ID集合对应的命中主页面进行排序,并将排序结果结合与命中次级页面ID集合对应的命中次级页面进行显示。本发明提出了一种用于大数据分析的云端数据处理方法,优化了数据搜索引擎技术,在保证搜索引擎对多维数据高性能搜索的同时,降低了数据的更新代价,高效实现了多维搜索。 | ||
搜索关键词: | 主页面 命中 数据处理 大数据 集合 云端 页面 多维搜索 页面数据 数据搜索引擎 存储节点 多维数据 高效实现 关联关系 排序规则 排序结果 搜索索引 搜索引擎 索引结构 过滤项 预定义 分析 分词 排序 存储 搜索 更新 优化 保证 | ||
【主权项】:
1.一种用于大数据分析的云端数据处理方法,用于在搜索引擎中实现多维数据搜索,其特征在于,包括:将爬取得到的主页面数据以及次级页面数据分别存储于不同的Hadoop存储节点中;根据主页面数据以及次级页面数据之间的关联关系,建立用于进行多维搜索的索引结构;搜索索引结构,获取与分词过滤项对应的命中主页面ID集合,以及与命中主页面ID对应的命中次级页面ID集合;按照预定义排序规则对与命中主页面ID集合对应的命中主页面进行排序,并将排序结果结合与命中次级页面ID集合对应的命中次级页面进行显示。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川意高汇智科技有限公司,未经四川意高汇智科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810226613.5/,转载请声明来源钻瓜专利网。