[发明专利]数据跑批方法、装置、存储介质及集群中的成员主机在审
| 申请号： | 201910553729.4 | 申请日： | 2019-06-20 |
| 公开（公告）号： | CN110362401A | 公开（公告）日： | 2019-10-22 |
| 发明（设计）人： | 符修亮;叶松;梁群峰;吕林澧 | 申请（专利权）人： | 深圳壹账通智能科技有限公司 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50;G06F9/54 |
| 代理公司： | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人： | 胡海国 |
| 地址： | 518000 广东省深圳市前海深港合作区前*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种数据跑批方法、装置、存储介质及集群中的成员主机，该方法包括：获取当前任务节点对应的批量待处理数据，将所述批量待处理数据进行随机分区，获得预设数量的分区数据；根据所述预设数量的分区数据生成对应分区的子任务，将所述预设数量的所述子任务以队列形式存放至预设队列列表，并通过消息中间件发送任务处理消息至集群中的各成员主机，以使所述集群中的各成员主机监听到所述任务处理消息时，从所述预设队列列表中获取子任务进行处理。基于大数据，通过集群处理大批量数据，集群中各成员主机分发任务同时也可以执行任务，实现资源的最大化使用，数据分区不依赖于数据库，可以任意扩展子任务数，加大数据的并发处理速度。 | ||
| 搜索关键词： | 成员主机 集群 预设 待处理数据 存储介质 分区数据 任务处理 队列 消息中间件 并发处理 队列形式 集群处理 任务节点 数据分区 随机分区 子任务数 大数据 最大化 数据库 分发 分区 发送 | ||
【主权项】：
1.一种数据跑批方法，其特征在于，所述数据跑批方法包括以下步骤：获取当前任务节点对应的批量待处理数据，将所述批量待处理数据进行随机分区，获得预设数量的分区数据；根据所述预设数量的分区数据生成对应分区的子任务，将所述预设数量的所述子任务以队列形式存放至预设队列列表，并通过消息中间件发送任务处理消息至集群中的各成员主机，以使所述集群中的各成员主机监听到所述任务处理消息时，从所述预设队列列表中获取子任务进行处理。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳壹账通智能科技有限公司，未经深圳壹账通智能科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910553729.4/，转载请声明来源钻瓜专利网。
