[发明专利]基于异构数据库的数据处理方法、系统、设备及存储介质在审
申请号: | 202210840519.5 | 申请日: | 2022-07-18 |
公开(公告)号: | CN115757567A | 公开(公告)日: | 2023-03-07 |
发明(设计)人: | 杨灵芝;李悦;邓何;唐伟程;王芸 | 申请(专利权)人: | 重庆银行股份有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06N20/00 |
代理公司: | 北京品源专利代理有限公司 11332 | 代理人: | 李礼 |
地址: | 400000*** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 数据库 数据处理 方法 系统 设备 存储 介质 | ||
1.一种基于异构数据库的数据处理方法,其特征在于,包括:
获取至少一个源端的用户数据;
基于预先配置的机器学习模型对所述用户数据进行处理以确定用户指标结果;
根据所述用户指标结果和所述用户数据按照业务主题异步写入卡夫卡消息队列中,以使异构数据库集群按照配置的所述业务主题异步读取所述用户指标结果和所述用户数据,其中,所述异构数据库集群至少两类数据库集群。
2.根据权利要求1中所述的方法,其特征在于,所述数据库集群为H2集群、Oracle集群、Gbase集群、Hive集群、ES集群和Python服务集群中至少之一;
其中,所述H2集群所对应的业务主题需求为持久化操作;所述Oracle集群所对应的业务主题需求为异构持久化操作和/或关系型数据查询处理;所述Gbase集群所对应的业务主题需求为计算分析能力;所述Hive集群所对应的业务主题需求为海量数据存储备份;所述ES集群所对应的业务主题需求为行为日志和所述Python服务集群所对应的业务主题需求为数据分析。
3.根据权利要求1中所述的方法,其特征在于,在根据所述用户指标结果和所述用户数据按照业务主题异步写入卡夫卡消息队列中,以使异构数据库集群按照配置的所述业务主题异步读取所述用户指标结果和所述用户数据之后,还包括:
将异构数据库集群中至少一个集群读取的所述用户指标结果和所述用户数据反向输出到所述机器学习模型中。
4.根据权利要求1所述的方法,其特征在于,所述基于预先配置的机器学习模型对所述用户数据进行处理以确定用户指标结果之前,还包括:
调用数据预处理服务对所述用户数据进行数据预处理,其中,所述数据预处理包括至少下述之一:通过自动匹配核验、数据分箱、平滑处理对所述用户数据进行数据预处理;通过标记所述用户数据中的异常值作为风险项并搭建用户风险模型。
5.根据权利要求1所述的方法,其特征在于,所述基于预先配置的机器学习模型对所述用户数据进行处理以确定用户指标结果,包括:
依据所述用户数据中的用户属性信息和流水信息,通过自动化机器学习调用推荐算法对用户进行业务产品推荐以确定产品推荐指标;
依据所述用户数据中的行为数据、工商信息、司法信息、税务信息、征信信息和行业信息,通过自动化机器学习调用决策算法判断用户业务请求数据是否能业务准入和进行风险提醒以确定用户业务准入指标和风险提醒指标;其中,所述决策算法包括准入决策和风险决策;
依据所述用户数据中的用户属性信息,通过自动化机器学习调用分类算法对用户进行分类以确定对用户的分类指标;
依据所述用户数据中的用户属性信息、工商信息、司法信息、税务信息和征信信息,通过自动化机器学习调用定价算法对用户业务进行用户业务结果预测以得到用户业务结果预测指标;
依据所述产品推荐指标、所述用户业务准入指标、所述风险提醒指标、所述分类指标和利率预测指标确定用户画像。
6.根据权利要求1所述的方法,其特征在于,所述根据所述用户指标结果和所述用户数据按照业务主题异步写入卡夫卡消息队列中,包括;
在卡夫卡消息队列中预先创建各类业务主题;其中,所述业务主题至少包括下述之一:用户属性信息、用户交易记录、贷款信息、工商信息、税务信息和通信信息;
依据所述业务主题将所述用户指标结果和所述用户数据异步写入卡夫卡消息队列中。
7.根据权利要求1中所述的方法,其特征在于,所述方法,还包括:
至少一个节点,在各所述节点中搭建H2内存数据库,其中,各所述节点之间通过唯一标识定位。
8.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的基于异构数据库的数据处理方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆银行股份有限公司,未经重庆银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210840519.5/1.html,转载请声明来源钻瓜专利网。