[发明专利]一种基于Spark的流式数据处理方法及装置在审
| 申请号： | 201610715496.X | 申请日： | 2016-08-24 |
| 公开（公告）号： | CN106339448A | 公开（公告）日： | 2017-01-18 |
| 发明（设计）人： | 张良晖;左磊;严俊;罗承成;李阳;桑晓龙 | 申请（专利权）人： | 苏州新科兰德科技有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 苏州创元专利商标事务所有限公司32103 | 代理人： | 孙仿卫,段晓玲 |
| 地址： | 215123 江苏省苏州市苏州*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请实施例提供一种基于Spark的流式数据处理方法及装置。其中方法包括对数据源中的流式数据按时间为单位进行切分得到数据单元并分别保存；基于Spark,按照所述数据单元对所述保存的数据进行自动调取并处理。基于该种方法，最小化了数据的处理量，大大减少了处理数据对机器内存的依赖，同时也能很快地继续排序以及数据之间的关联操作，可以很快得到时间为单位的处理结果。 | ||
| 搜索关键词： | 一种 基于 spark 数据处理 方法 装置 | ||
【主权项】：
一种基于Spark的流式数据处理方法，其特征在于，所述方法包括：对数据源中的流式数据按时间为单位进行切分得到数据单元并分别保存；基于Spark,按照所述数据单元对所述保存的数据进行自动调取并处理。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于苏州新科兰德科技有限公司，未经苏州新科兰德科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201610715496.X/，转载请声明来源钻瓜专利网。
- 上一篇：一种治疗丙型肝炎的中药
- 下一篇：治疗病毒疣的中药复方制剂
