[发明专利]数据分析方法、电子设备及计算机存储介质有效
申请号: | 201811250879.X | 申请日: | 2018-10-25 |
公开(公告)号: | CN109299032B | 公开(公告)日: | 2019-10-01 |
发明(设计)人: | 周兴博;杨姗姗;杜吉翰;贺玺 | 申请(专利权)人: | 掌阅科技股份有限公司 |
主分类号: | G06F15/02 | 分类号: | G06F15/02;G06F11/34;G06F16/18 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 孟金喆 |
地址: | 100023 北京市朝阳区四惠东*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据分析 分析模型 需求定义 原始日志 计算机存储介质 电子设备 分析数据 数据对象 数据源 封装 电子书阅读 人工成本 人力成本 数据解析 数据类型 用户选定 实例化 预提取 字段 隔离 开发 节约 分析 | ||
1.一种数据分析方法,所述方法包括:
针对当前数据分析任务,获取用户选定的待分析数据源,以及对分析模型的需求定义,其中,所述分析模型为预先封装并用于对不同格式的数据源进行数据解析,所述需求定义用于指定从数据源中预提取的字段及数据类型;
利用所述分析模型从所述待分析数据源中提取符合所述需求定义的数据对象;
利用mapreduce对所述数据对象进行实例化处理,得到分析结果数据;
其中,所述利用所述分析模型从所述待分析数据源中提取符合所述需求定义的数据对象,包括:
利用所述分析模型,从所述待分析数据源中按所述需求定义指定的关键词提取数据对象;或者
利用所述分析模型,按所述需求定义对所述待分析数据源中的数据进行转化,经转化提取出符合所述需求定义的数据对象;或者
利用所述分析模型对所述待分析数据源进行全文解析,提取出符合所述需求定义的数据对象。
2.根据权利要求1所述的方法,其中,所述数据对象包括键值对形式的数据。
3.根据权利要求1所述的方法,其中,所述利用mapreduce对所述数据对象进行实例化处理,包括:
利用预先封装的执行模型对所述数据对象进行实例化处理,其中,所述执行模型至少包括map函数、reduce函数和hook函数;
其中,所述map函数用于对所述数据对象进行数据关系映射,得到实例化数据;所述reduce函数用于对所述实例化数据进行归约处理;所述hook函数用于获取并记录所述map函数和reduce函数的执行时间信息。
4.根据权利要求3所述的方法,其中,所述方法还包括:
根据所述执行时间信息分析系统资源占用情况,并依据所述系统资源占用情况分配数据分析任务。
5.根据权利要求1所述的方法,其中,得到分析结果数据之后,所述方法还包括:
按照用户配置将所述分析结果数据进行可视化展示。
6.根据权利要求5所述的方法,其中,可视化展示之后,所述方法还包括:
获取用户基于当前数据分析任务填写的注册信息,其中,所述注册信息用于描述数据分析任务相关的属性;
对不同用户填写的多个注册信息建立任务索引,其中,所述任务索引用于用户对历史数据分析任务进行检索,以便复用历史数据分析任务。
7.根据权利要求6所述的方法,其中,所述数据分析任务的分析脚本以插件形式打包存储。
8.一种电子设备,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行以下操作:
针对当前数据分析任务,获取用户选定的待分析数据源,以及对分析模型的需求定义,其中,所述分析模型为预先封装并用于对不同格式的数据源进行数据解析,所述需求定义用于指定从数据源中预提取的字段及数据类型;
利用所述分析模型从所述待分析数据源中提取符合所述需求定义的数据对象;
利用mapreduce对所述数据对象进行实例化处理,得到分析结果数据;
其中,利用所述分析模型从所述待分析数据源中提取符合所述需求定义的数据对象,包括:
利用所述分析模型,从所述待分析数据源中按所述需求定义指定的关键词提取数据对象;或者
利用所述分析模型,按所述需求定义对所述待分析数据源中的数据进行转化,经转化提取出符合所述需求定义的数据对象;或者
利用所述分析模型对所述待分析数据源进行全文解析,提取出符合所述需求定义的数据对象。
9.根据权利要求8所述的电子设备,其中,所述数据对象包括键值对形式的数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于掌阅科技股份有限公司,未经掌阅科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811250879.X/1.html,转载请声明来源钻瓜专利网。