[发明专利]一种实时高效的用户数据处理方法及系统在审
申请号: | 201910696897.9 | 申请日: | 2019-07-30 |
公开(公告)号: | CN110389988A | 公开(公告)日: | 2019-10-29 |
发明(设计)人: | 钟华 | 申请(专利权)人: | 四川虹魔方网络科技有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/22;G06F11/14 |
代理公司: | 四川省成都市天策商标专利事务所 51213 | 代理人: | 魏伯吹 |
地址: | 621000 四川省绵阳*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种实时高效的用户数据处理方法,包括:系统上线时,将线上数据库的全量数据同步到本地数据库;定时将线上数据库的增量数据写入本地的json文件中;定时从json文件中读取这段时间间隔内的增量数据,并写入本地数据库。还公开一种实时高效的用户数据处理系统,包括线上数据库、同步增量数据模块、clickhouse和本地数据库。本发明通过json文件解耦线上数据库与本地数据库,提高了读取线上数据库的容错能力,同时通过clickhouse提高了写入本地数据库的容错能力,保证了系统的高效性,通过定时任务保证了实时性,且操作对线上运行的数据库不会产生影响。 | ||
搜索关键词: | 数据库 用户数据处理 写入 容错能力 增量数据 同步增量数据 读取 全量数据 读取线 高效性 实时性 对线 解耦 上线 保证 | ||
【主权项】:
1.一种实时高效的用户数据处理方法,其特征在于,包括:步骤S100:用户数据处理系统上线时,将线上数据库的全量数据同步到本地数据库;步骤S200:定时将线上数据库的增量数据写入本地的json文件中;步骤S300:定时从json文件中读取这段时间间隔内的增量数据,并写入本地数据库,同时将所述增量数据写入clickhouse数据库中。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川虹魔方网络科技有限公司,未经四川虹魔方网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910696897.9/,转载请声明来源钻瓜专利网。