[发明专利]一种应对关系数据库入库瓶颈问题的处理方法在审
申请号: | 201911116864.9 | 申请日: | 2019-11-15 |
公开(公告)号: | CN111221829A | 公开(公告)日: | 2020-06-02 |
发明(设计)人: | 张鲁杭;陈益;李贵 | 申请(专利权)人: | 浙江鸿程计算机系统有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/25;G06F16/2457 |
代理公司: | 杭州之江专利事务所(普通合伙) 33216 | 代理人: | 张慧英 |
地址: | 310053 浙江省*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 应对 关系 数据库 入库 瓶颈 问题 处理 方法 | ||
1.一种应对关系数据库入库瓶颈问题的处理方法,其特征在于,包括如下步骤:
(1)应用接收到外部输入的数据,进行写数据库操作;
(2)启动写数据库操作的线程池,根据数据库类型初始化线程池的线程数量,判断线程池的线程使用情况,若线程池的线程没有都被使用,则执行写数据库操作,结束流程;否则执行步骤(3);
(3)若线程池的线程都被使用,则触发一级缓存策略;其中,若一级缓存消息队列MQ存在数据堆积情况,则启动二级缓存策略,即启动写磁盘文件的应用程序,将消息队列的数据快速批量写入磁盘文件;当一级缓存消息队列MQ没有数据堆积时,则暂停二级缓存策略,数据处理交由一级缓存应用程序入库;
(4)当写数据库线程池空闲时,应用自动暂停一级缓存策略,处理全部交由写线程直接入库操作,结束流程。
2.根据权利要求1所述的一种应对关系数据库入库瓶颈问题的处理方法,其特征在于:所述的处理方法还包括:
(5)为保证数据时效性,对写入磁盘文件的数据,另外,应用程序定时5分钟轮询一次,发现未处理文件,读取数据批量入库。
3.根据权利要求1所述的一种应对关系数据库入库瓶颈问题的处理方法,其特征在于:所述的线程池的线程数量设置为1000。
4.根据权利要求1所述的一种应对关系数据库入库瓶颈问题的处理方法,其特征在于:所述的一级缓存策略为启用写消息队列MQ的应用程序,把线程池繁忙时期无法写入的数据放入一个消息队列集。
5.根据权利要求1所述的一种应对关系数据库入库瓶颈问题的处理方法,其特征在于:所述的一级缓存消息队列MQ存在数据堆积情况为存在单个MQ队列超过5000条数据未入库的情形。
6.根据权利要求1所述的一种应对关系数据库入库瓶颈问题的处理方法,其特征在于:所述的一级缓存消息队列MQ没有数据堆积情况为出现未入库数据降到3500条的情形。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江鸿程计算机系统有限公司,未经浙江鸿程计算机系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911116864.9/1.html,转载请声明来源钻瓜专利网。