[发明专利]一种具有双通道数据库的大数据快速处理系统及方法在审
申请号: | 201810389728.6 | 申请日: | 2018-04-27 |
公开(公告)号: | CN108664573A | 公开(公告)日: | 2018-10-16 |
发明(设计)人: | 陈碧勇;方敏;吕晔 | 申请(专利权)人: | 厦门南讯软件科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 广州市红荔专利代理有限公司 44214 | 代理人: | 吴伟文 |
地址: | 361008 福建省厦*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理模块 数据互通 快速处理系统 数据处理结果 条件判断模块 数据库 条件数据 数据处理 大数据 双通道 数据处理技术 用户输入系统 大小比较 快速切换 数据量 转换 预设 返回 统一 | ||
1.一种具有双通道数据库的大数据快速处理系统,其特征在于,包括条件判断模块、第一数据处理模块、第二数据处理模块和数据互通模块,其中
所述的条件判断模块用于在系统中预设参比值,将参比值与用户输入系统的条件形成的数据量进行大小比较;
所述的第一数据处理模块用于当条件数据量小于参比值时,选择该模块进行数据处理;
所述的第二数据处理模块用于当条件数据量大于参比值时,选择该模块进行数据处理;
所述的数据互通模块用于将第一数据处理模块的数据处理结果进行转换,转换为与第二数据处理模块的数据处理结果格式相同的系统统一的返回值,实现数据互通。
2.如权利要求2所述的一种具有双通道数据库的大数据快速处理系统,其特征在于,还包括应急处理模块,
所述的应急处理模块用于当条件数据量大于参比值时,而所述的第二数据模块出现故障而无法处理数据时,选择第一数据模块进行数据处理。
3.如权利要求2所述的一种具有双通道数据库的大数据快速处理系统,其特征在于,所述的数据互通模块包括转换规则模块和转换输出模块,
所述的转换规则模块用于通过一份数据定义转换规则,来存储第一数据模块的数据处理结果格式与第二数据模块的数据处理结果格式进行转换的规则,
所述的转换输出模块用于根据转换规则模块中所述的转换规则,将第一数据模块的数据处理结果格式转换成第二数据模块的数据处理结果格式,实现不同数据处理模块的数据互通。
4.一种具有双通道数据库的大数据快速处理方法,具有条件判断模块、第一数据处理模块、第二数据处理模块和数据互通模块,其特征在于,所述方法包括如下步骤:
S1:在系统中预设参比值,将参比值与用户输入系统的条件形成的数据量进行大小比较;
S2:根据S1的判断结果,如果条件数据量小于参比值,选择第一数据模块进行数据处理;
S3:根据S1的判断结果,如果条件数据量大于参比值,选择第二数据模块进行数据处理;
S4:将S2的数据处理结果通过数据互通模块进行转换,转换为与S3的数据处理结果格式相同的系统统一的返回值,实现数据互通。
5.如权利要求4所述的一种具有双通道数据库的大数据快速处理方法,其特征在于,还包括如下步骤:
S5:根据S1的判断结果,如果条件数据量大于参比值,当所述的第二数据模块出现故障而无法处理数据时,选择第一数据模块进行数据处理。
6.如权利要求5所述的一种具有双通道数据库的大数据快速处理方法,其特征在于,步骤S4所述的转换的具体步骤为:
S4-1:通过一份数据定义转换规则,用于存储第一数据模块的数据处理结果格式与第二数据模块的数据处理结果格式进行转换的规则;
S4-2:根据步骤S4-1中所述的转换规则,将第一数据模块的数据处理结果格式转换成第二数据模块的数据处理结果格式,实现不同数据处理模块的数据互通。
7.如权利要求6所述的一种具有双通道数据库的大数据快速处理方法,其特征在于,所述的第一数据模块采用的语句为MySQL可执行的SQL语句,所述的第二数据模块采用的语句为Elasticsearch可执行的json语句。
8.如权利要求7所述的一种具有双通道数据库的大数据快速处理方法,其特征在于,所述的条件包括用户设置的一条或多条规则,所述的多条规则之间可以采用求并集、差集或交集的方式形成一条复杂规则。
9.如权利要求8所述的一种具有双通道数据库的大数据快速处理方法,其特征在于,
所述的S1中,用户输入系统的条件形成XML数据;
所述的S2中,第一数据模块的数据处理具体方法指:读取XML数据,解析XML数据,获取各节点数据,拆分字段,进行条件拼接,然后把所有的条件进行合并,将XML数据转换为SQL语句,执行数据处理;
所述的S3中,第二数据模块的数据处理具体方法指:预设好将XML数据转换为json语句的输入输出规则,读取XML数据,根据输入输出规则进行转换,将XML数据转换为json语句,通过Elasticsearch执行数据处理;
所述的S4中,实现数据互通的具体方法指:通过一份数据定义MySQL表,用于存储SQL数据处理结果格式与json数据处理结果格式进行转换的规则;并根据该转换规则,将SQL数据处理结果格式转换成json数据处理结果格式,实现不同数据处理模块的数据互通。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于厦门南讯软件科技有限公司,未经厦门南讯软件科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810389728.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种地理编码方法和系统
- 下一篇:信息的输入方法、终端设备及介质