[发明专利]互联网金融消费信贷批量业务分布式流计算处理引擎在审
申请号: | 202011517524.X | 申请日: | 2020-12-21 |
公开(公告)号: | CN112541816A | 公开(公告)日: | 2021-03-23 |
发明(设计)人: | 冯宇;罗喜川 | 申请(专利权)人: | 四川新网银行股份有限公司 |
主分类号: | G06Q40/02 | 分类号: | G06Q40/02;G06F16/21;G06F16/23;G06F16/28 |
代理公司: | 成都智言知识产权代理有限公司 51282 | 代理人: | 濮云杉 |
地址: | 610094 四川省成都市成都*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 互联网 金融 消费信贷 批量 业务 分布式 计算 处理 引擎 | ||
1.互联网金融消费信贷批量业务分布式流计算处理引擎,其特征在于,包括以下步骤,
步骤S1001:从源数据库中读取数据,通过kafka producer把源数据流发送到kafkatopic partition上;
步骤S1002:读取Kafka中的源数据消息,为kafka的topic中每一个partition创建一个reader作为consumer;
步骤S1003:reader通过流运算把来自于同一个topic的消息汇集起来上,再通过HTTPConnector转发到GP的各个Segment上;
步骤S1004:通过调度器Dispatcher来调度、加载、启动使用流数据处理模式和流运算的GP-SQL for Java实现流数据处理的JOB来完成具体的业务功能;
步骤S1005:把处理完成的结果数据写入到结果数据库中。
2.根据权利要求1所述的互联网金融消费信贷批量业务分布式流计算处理引擎,其特征在于,在步骤S1002中,Reader是流计算处理引擎的kafka consumer,负责读取Kafka中的源数据流,同时对数据流进行前置变换和处理,然后再通过Connector发送数据到GP的segment上。
3.根据权利要求1所述的互联网金融消费信贷批量业务分布式流计算处理引擎,其特征在于,Connector基于HTTP协议,负责kafka、GP连接功能,以及数据收发功能。
4.根据权利要求1所述的互联网金融消费信贷批量业务分布式流计算处理引擎,其特征在于,Dispatcher是调度组件,负责调度、加载、启动与GP Segment关联的用GP-SQL forJAVA实现的JOB。
5.根据权利要求1所述的互联网金融消费信贷批量业务分布式流计算处理引擎,其特征在于,数据流在JOB处理前还需进行PreHandler操作,从而得到JOB处理需要的数据格式。
6.根据权利要求1所述的互联网金融消费信贷批量业务分布式流计算处理引擎,其特征在于,数据流在JOB处理后还需进行PostHandler操作,使其满足保存到mysql数据库需要的格式,实现把处理完成的结果数据写入到结果数据库中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川新网银行股份有限公司,未经四川新网银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011517524.X/1.html,转载请声明来源钻瓜专利网。