[发明专利]基于分布式存储的金融数据计算系统、方法及装置在审
申请号: | 202110472661.4 | 申请日: | 2021-04-29 |
公开(公告)号: | CN113127567A | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 江伟;申玉;阮曙东 | 申请(专利权)人: | 武汉优品楚鼎科技有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/25;G06Q40/04 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 谢志超 |
地址: | 430000 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 分布式 存储 金融 数据 计算 系统 方法 装置 | ||
1.一种基于分布式存储的金融数据计算系统,其特征在于,包括获取模块、存储模块以及计算模块;
所述获取模块能够获取金融数据,并基于分布式一致性协议存储所述金融数据至存储模块;
所述存储模块为基于分布式一致性协议构建的分布式存储模块,包括第一存储节点和第二存储节点;所述存储模块能够接收金融数据并存储至第二存储节点;
所述计算模块能够通过第一存储节点只读地调取存储在第二存储节点的金融数据,并根据设定的计算方法进行计算。
2.根据权利要求1所述的基于分布式存储的金融数据计算系统,其特征在于,所述分布式一致性协议包括Raft协议;所述第二存储节点对应于Raft协议中的领导者leader;所述第一存储节点为基于Raft协议引入的复制者Replicator;
所述复制者Replicator不参与Raft日志复制或者选举;所述复制者Replicator能够在设定的时间节点从领导者leader处同步日志并回放。
3.根据权利要求1所述的基于分布式存储的金融数据计算系统,其特征在于:
所述存储模块采用列存结构,所述列存结构是指金融数据中每个字段单独存储,每一列中的数据类型一致;
所述计算模块基于SIMD指令集,利用列存结构的金融数据进行计算;
所述存储模块基于LSM算法实现读写操作。
4.根据权利要求1所述的基于分布式存储的金融数据计算系统,其特征在于:
所述存储模块基于设定的生产周期进行分区;
所述计算模块能够针对只读调取的金融数据建临时表时指定TTL参数,从而在设定的时间点删除临时表和金融数据;
所述计算模块能够根据数据属性,添加数据填充标签;所述数据填充标签为计算处理中数据缺失情况下的替代值;
所述计算模块能够根据设定的生产周期将数据分类;
所述计算模块能够根据表达式组合推断结果数据对应的生产周期;
所述计算模块基于结构化查询语言SQL进行数据分析查询;
所述计算模块能够基于用户自定义函数进行数据处理和/或计算。
5.一种基于分布式存储的金融数据计算方法,其特征在于,利用权利要求1至4中任一项所述的基于分布式存储的金融数据计算系统,包括:
获取金融数据,并基于分布式一致性协议存储所述金融数据至第二存储节点;
计算主体通过第一存储节点只读地调取存储在第二存储节点的金融数据,并根据设定的计算方法独立进行计算。
6.根据权利要求5所述的基于分布式存储的金融数据计算方法,其特征在于,所述分布式一致性协议包括Raft协议;所述第二存储节点对应于Raft协议中的领导者leader;所述第一存储节点为基于Raft协议引入的复制者Replicator;
所述复制者Replicator不参与Raft日志复制或者选举;所述复制者Replicator能够在设定的时间节点从领导者leader处同步日志并回放。
7.根据权利要求5所述的基于分布式存储的金融数据计算方法,其特征在于:
所述获取金融数据,并基于分布式一致性协议存储所述金融数据至第二存储节点的步骤具体包括:
获取金融数据,基于分布式一致性协议,采用列存结构存储所述金融数据至第二存储节点,所述列存结构是指金融数据中每个字段单独存储,每一列中的数据类型一致;
相应的,计算主体通过第一存储节点只读地调取存储在第二存储节点的金融数据,并根据设定的计算方法独立进行计算的步骤具体包括:
计算主体通过第一存储节点,基于LSM算法只读地调取存储在第二存储节点的金融数据;
计算主体基于SIMD指令集,利用列存结构的金融数据,根据设定的计算方法独立进行计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉优品楚鼎科技有限公司,未经武汉优品楚鼎科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110472661.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:口罩识别方法及装置、无人机、存储介质
- 下一篇:一种浙贝母产地鲜切加工工艺