[发明专利]一种数据处理方法和装置有效
申请号: | 201510957339.5 | 申请日: | 2015-12-17 |
公开(公告)号: | CN106897293B | 公开(公告)日: | 2020-09-11 |
发明(设计)人: | 陈洪岭 | 申请(专利权)人: | 中国移动通信集团公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458 |
代理公司: | 北京派特恩知识产权代理有限公司 11270 | 代理人: | 张颖玲;王花丽 |
地址: | 100032 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
获取样本数据;
按照存储的各个挖掘工具,分别处理所述样本数据,得到所述各个挖掘工具的处理结果;其中,所述处理结果包括所述样本数据的数据分析时间和数据加载时间;
所述按照存储的各个挖掘工具,分别处理所述样本数据包括:将所述样本数据和原始数据的规模比例作为CPU收缩比例和内存收缩比例;根据所述CPU收缩比例、所述内存收缩比例和所述各个挖掘工具,分别处理所述样本数据;
根据所述各个挖掘工具的处理结果,确定成本最低的挖掘工具。
2.根据权利要求1所述的方法,其特征在于,所述获取样本数据包括:
接收原始数据;
按照预设的数据处理装置的承载量,从所述原始数据中获取所述样本数据。
3.根据权利要求2所述的方法,其特征在于,所述根据所述各个挖掘工具的处理结果,确定成本最低的数据挖掘规则包括:
根据成本评测公式,确定所述各个挖掘工具的成本,所述成本评测公式为:
Y=C*N*F*J;
其中,所述Y是所述成本;所述C是所述CPU收缩比例,所述N是所述内存收缩比例;所述F是所述数据分析时间;所述J是所述数据加载时间;
从所述各个挖掘工具的成本中,确定所述成本最低的挖掘工具。
4.根据权利要求3所述的方法,其特征在于,所述根据所述各个挖掘工具的处理结果,确定成本最低的挖掘工具之后,所述方法还包括:
将所述CPU收缩比例和所述内存收缩比例增大N倍,得到新的CPU收缩比例和新的内存收缩比例,所述N是正整数;
按照所述新的CPU收缩比例、所述新的内存收缩比例和所述成本最低的挖掘工具,处理所述样本数据,得到新的处理结果;
当所述新的处理结果和所述成本最低的挖掘工具的处理结果满足线性增长时,将所述N加1;
当所述新的处理结果和所述成本最低的挖掘工具的处理结果不满足线性增长时,将所述CPU收缩比例和所述内存收缩比例增大N-1倍的结果,作为最终的CPU收缩比例和最终的内存收缩比例。
5.一种数据处理装置,其特征在于,所述装置包括:
获取单元,用于获取样本数据;
处理单元,用于按照存储的各个挖掘工具,分别处理所述样本数据,得到所述各个挖掘工具的处理结果;其中,所述处理结果包括所述样本数据的数据分析时间和数据加载时间;所述处理单元具体用于:将所述样本数据和原始数据的规模比例作为CPU收缩比例和内存收缩比例;根据所述CPU收缩比例、所述内存收缩比例和所述各个挖掘工具,分别处理所述样本数据;
确定单元,用于根据所述各个挖掘工具的处理结果,确定成本最低的挖掘工具。
6.根据权利要求5所述的装置,其特征在于,所述获取单元具体用于:
接收原始数据;
按照预设的数据处理装置的承载量,从所述原始数据中获取所述样本数据。
7.根据权利要求6所述的装置,其特征在于,所述确定单元具体用于:
根据成本评测公式,确定所述各个挖掘工具的成本,所述成本评测公式为:
Y=C*N*F*J;
其中,所述Y是所述成本;所述C是所述CPU收缩比例,所述N是所述内存收缩比例;所述F是所述数据分析时间;所述J是所述数据加载时间;
从所述各个挖掘工具的成本中,确定所述成本最低的挖掘工具。
8.根据权利要求7所述的装置,其特征在于,所述装置还包括:
增大单元,用于将所述CPU收缩比例和所述内存收缩比例增大N倍,得到新的CPU收缩比例和新的内存收缩比例,所述N是正整数;
所述处理单元,还用于按照所述新的CPU收缩比例、所述新的内存收缩比例和所述成本最低的挖掘工具,处理所述样本数据,得到新的处理结果;
所述增大单元,还用于当所述新的处理结果和所述成本最低的挖掘工具的处理结果满足线性增长时,将所述N加1;当所述新的处理结果和所述成本最低的挖掘工具的处理结果不满足线性增长时,将所述CPU收缩比例和所述内存收缩比例增大N-1倍的结果,作为最终的CPU收缩比例和最终的内存收缩比例。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团公司,未经中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510957339.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种便携式电脑支架
- 下一篇:一种带支架可调式高效组合支撑台