[发明专利]短时数据写库的实现方法、系统及电子设备有效
申请号: | 202011609764.2 | 申请日: | 2020-12-30 |
公开(公告)号: | CN113190614B | 公开(公告)日: | 2022-07-01 |
发明(设计)人: | 马吉科;郑海雁;尹飞;许杰雄;陈佐;郑飞;季聪;王松;陆嘉玮;厉文婕;李平;曾望志;葛崇慧;武梦阳;孙权;帅率;王江辉 | 申请(专利权)人: | 江苏方天电力技术有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/23;G06F16/22 |
代理公司: | 南京纵横知识产权代理有限公司 32224 | 代理人: | 王方超 |
地址: | 210000 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 实现 方法 系统 电子设备 | ||
本发明公开了短时数据写库的实现方法、系统及电子设备,该方法包括如下步骤:步骤SS1:按业务需求计划算费模型进行集合组装,生成计费结果集合;步骤SS2:解析所述计费结果集合,放入内存队列;步骤SS3:从所述内存队列中自旋拉取队列数据;步骤SS4:根据所述队列数据,创建访问令牌连接数据库;步骤SS5:算费集合多数据源批量归档;步骤SS6:判断任务归还令牌;步骤SS7:建立量费异常任务归集容器。本发明是基于流控的回写机制采用了异步非阻塞的工作方式,规避了回写集合之间的同步阻塞问题,灵活的批量回写机制,有效提升了量费计算的数据处理与数据写库性能。
技术领域
本发明涉及一种短时数据写库的实现方法、系统及电子设备,属于电力系统信息技术领域。
背景技术
在面向多业务、高效计费的发展趋势上,以往的应用程序在处理大数据存在写入缓慢、阻塞的问题,此发明基于此问题提出了一种基于流控工作方式的短时数据写库的实现方法,采用了异步非阻塞的工作方式,业务模型和模型、表与表之间的组装,规避了回写集合之间的同步阻塞方案。
发明内容
本发明的目的在于,克服现有技术存在的技术缺陷,解决上述技术问题,提出基于流控工作模式的短时数据写库的实现方法及系统。
本发明采用如下技术方案:短时数据写库的实现方法,包括如下步骤:
步骤SS1:按业务需求计划算费模型进行集合组装,生成计费结果集合;
步骤SS2:解析所述计费结果集合,放入内存队列;
步骤SS3:从所述内存队列中自旋拉取队列数据;
步骤SS4:根据所述队列数据,创建访问令牌连接数据库;
步骤SS5:算费集合多数据源批量归档;
步骤SS6:判断任务归还令牌;
步骤SS7:建立量费异常任务归集容器。
作为一种较佳的实施例,所述步骤SS1具体包括:
基于一个业务单元的外键字段值对应一个KEY建立虚拟槽;使用FNV算法来Hash字段值;具体计算过程如下:
初始化:hash=2166136261;
进入循环,根据输入的数据字节长度决定循环次数,hash结果为32位无符号整型,故需要舍弃高位,保留低32位:hash=(2166136261*16777619)mod 232=0x050c5d1f;
进行异或运算,首先将0x56转化为32位的值0x00000056,然后才能进行异或运算:hash=0x050c5d1f xor 0x00000056=0x050c5d49;
对数据进行校验,记有校验和C,所述校验和C共有2n位,则:
C=INV
for d in D
C=C*P
end
其中,x异或y;INV:初始Hash值;P:质数;D[0..len]为字节流数据;
计算外键字段值对应的每个KEY的哈希值后,进行模232运算,将得到的相应KEY分布在整个哈希环上,即将每一个业务单元的外键字段值映射到哈希环上;
Key=Hash(object)%232
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于江苏方天电力技术有限公司,未经江苏方天电力技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011609764.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置