[发明专利]一种轻量级多数据源批处理的方法在审
申请号: | 202211531579.5 | 申请日: | 2022-12-01 |
公开(公告)号: | CN116226141A | 公开(公告)日: | 2023-06-06 |
发明(设计)人: | 刘虎东 | 申请(专利权)人: | 江苏银承网络科技股份有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/28;G06F16/2455 |
代理公司: | 滁州创科维知识产权代理事务所(普通合伙) 34167 | 代理人: | 王剑 |
地址: | 211899 江苏省南京*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 轻量级 多数 批处理 方法 | ||
1.一种轻量级多数据源批处理的方法,其特征在于,包括以下步骤:
S001、获取指定数据库内存储的数据,并根据需求调取数据中的匹配对象,并生成多个时间集合;
S002、基于生成的多个所述时间集合执行排序,以时间顺序降序排列,第一数据的所述时间集合以firstname命名,最后一个数据的所述时间集合以lastname命名;
S003、完成解析的数据批量插入目标数据库内,并以排序顺序从firstname开始执行至lastname结束,依次循环批次访问写入。
2.根据权利要求1所述的一种轻量级多数据源批处理的方法,其特征在于,所述指定数据库为云存储;
所述时间集合为一年内平台运行过程存储于所述云存储中的留存数据。
3.根据权利要求1所述的一种轻量级多数据源批处理的方法,其特征在于,所述S002中执行完成后会生成第一通知弹窗通知用户数据解析状态,且该第一通知弹窗至少包括一个指令按钮,所述指令按钮用于对完整解析后数据执行下一步数据处理。
4.根据权利要求1所述的一种轻量级多数据源批处理的方法,其特征在于,所述目标数据库为预设的所述解析数据的写入路径。
5.根据权利要求1所述的一种轻量级多数据源批处理的方法,其特征在于,所述步骤2中完成排序的所述时间集合数据会生成项目匹配指令,并传输至所述步骤3中,所述步骤3执行所述时间集合数据访问写入后,读取到chunk数量后与所述项目匹配指令进行比对,以判断数据是否完成,是,则生成第二弹窗进行提示;否,则将未写入的所述时间集合数据的命名进行罗列。
6.一种轻量级多数据源批处理系统,其特征在于,用于运行权利要求1-5任一项所述的轻量级多数据源批处理的方法,包括:
插件写入模块,基于完成Job代码匹配至平台内,并通过JobLanucher执行并保存操作记录job任务,所述job任务中按照指定逻辑顺序执行Step,并保存Step每步的结果;
数据库处理模块,通过代码解析目标数据库数据,根据代码中的QueryProvider执行解析,并基于完成的解析数据进行排序,第一个名firstname,最后一个名lastname;
数据库写入模块,将解析获取的数据通过绑定数据库进行写入。
7.根据权利要求6所述的一种轻量级多数据源批处理系统,其特征在于,所述数据库写入模块包括分页同步单元,基于创建的job任务设置多个任务以创建多个分页区间,并位于分页区间内将多个数据以排序循环依次进行进行写入。
8.根据权利要求6所述的一种轻量级多数据源批处理系统,其特征在于,所述数据库处理模块还包括MySqlPagingQueryProvider代码字段下的多个执行子代码分别包括:
方法dataSource:绑定数据库;
方法queryProvider:绑定查询信息;
方法rowMapper:将查询结果转为对象;
方法pageSize:设定每次分页查询的大小。
9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现权利要求1至5任一项所述轻量级多数据源批处理的方法的步骤。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现权利要求1至5任一项所述轻量级多数据源批处理的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏银承网络科技股份有限公司,未经江苏银承网络科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211531579.5/1.html,转载请声明来源钻瓜专利网。