[发明专利]一种热点数据识别和处理的方法和装置在审
申请号: | 201610222207.2 | 申请日: | 2016-04-11 |
公开(公告)号: | CN107291777A | 公开(公告)日: | 2017-10-24 |
发明(设计)人: | 邢志佳 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京国昊天诚知识产权代理有限公司11315 | 代理人: | 黄熊 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 热点 数据 识别 处理 方法 装置 | ||
技术领域
本申请涉及数据更新技术领域,尤其涉及一种热点数据识别的方法和装置、以及一种热点数据处理的方法和装置。
背景技术
数据库事务(Database Transaction),是指作为单个逻辑工作单元执行的一系列操作。在执行数据库事务时,往往需要对数据库中的数据进行更新。
当出现多个用户执行相同的数据库事务时,可能会出现数据库中单条数据被并发更新的情况。当数据更新的TPS(每秒事务处理量)达到一定的阈值时,这条数据就成为了热点数据。这种数据在应用中常常会引起系统在持久化存储的操作上付出更多的资源,进而引起系统的稳定性风险。
传统方法在识别热点数据时,可以在做业务需求时预先分析出来哪些数据可能出现并发更新的情况,将其作为热点数据加以处理。这种方法难以预估出所有的热点数据,当出现新的热点数据时,仍然会存在系统稳定性风险。
传统方法识别热点数据时,也可以通过事务执行的日志来寻找是否出现了新的热点数据,以便告知系统新热点数据的产生。这种方法的主要缺陷在于:在并发事务执行完毕后才通过日志来识别热点数据,因此,对于热点数据的识别速度不够快;并且在并发事务的执行过程中已经产生了系统稳定性风险,所以对于稳定性风险问题的解决也已滞后。
发明内容
为了解决现有技术的问题,本申请提供了一种热点数据识别的方法和装置、以及一种热点数据处理的方法和装置,旨在实现在热点即将产生的过程中快速的识别出热点数据,从而及时解决系统的稳定性风险问题。
为了解决上述问题,本申请实施例提供了一种热点数据的识别方法,所 述方法包括:
接收应用系统发送的热点数据识别通知,所述热点数据识别通知中包含待识别数据的标识信息;
根据所述待识别数据的标识信息,统计在设定时间周期内所述待识别数据在数据库中的更新次数;
若所述更新次数大于设定阈值,则确定所述待识别数据为热点数据。
作为优选,本申请实施例中,所述待识别数据在数据库中的更新操作同步至分布式缓存中;根据所述待识别数据的标识信息,统计在设定时间周期内所述待识别数据在数据库中的更新次数,包括:
根据所述待识别数据的标识信息,统计在设定时间周期内所述待识别数据在所述分布式缓存中的更新次数。
作为优选,本申请实施例中,统计在设定时间周期内所述待识别数据在数据库中的更新次数的操作与所述待识别数据在数据库中执行更新的操作通过不同线程执行。
作为优选,本申请实施例中,所述方法还包括:在确定所述待识别数据为热点数据时,向所述应用系统发送热点数据识别响应通知,所述热点数据识别响应通知用于向所述应用系统确认所述待识别数据为热点数据。
为了解决上述问题,本申请实施例还提供了一种一种热点数据的处理方法,所述方法包括:
获取待处理数据;
在确定所述待处理数据为准热点数据时,向热点数据识别组件发送热点数据识别通知,所述热点数据识别通知中包含待识别数据的标识信息,所述热点数据识别通知用于请求所述热点数据识别组件对所述待处理数据是否是热点数据进行识别。
作为优选,本申请实施例中,所述方法还包括:
接收热点数据识别组件发送的热点数据识别响应通知,所述热点数据识别响应通知用于确认所述待处理数据为热点数据;
根据所述热点数据识别响应通知,确定所述待处理数据为热点数据。
作为优选,本申请实施例中,所述方法还包括:
在确定所述待处理数据为热点数据时,采用设定更新方式对所述待处理数据进行更新处理。
作为优选,本申请实施例中,采用设定更新方式对所述待处理数据进行更新处理,包括:
依次记录所述待处理数据的更新请求,形成更新请求流水信息;
将所述待处理数据的更新数据依次缓冲存入所述数据库的空闲空间中;
在所述数据库中,依据所述更新请求流水信息,用缓冲存入所述数据库的空闲空间中的所述更新数据依次更新所述待处理数据。
作为优选,本申请实施例中,依据所述更新请求流水信息,用缓冲存入所述数据库的空闲空间中的所述更新数据依次更新所述需更新的数据的操作与将所述待处理数据的更新数据依次缓冲存入所述数据库的空闲空间中的操作通过不同线程执行。
作为优选,本申请实施例中,采用设定更新方式对所述待处理数据进行
更新处理,包括:
将所述待处理数据拆分成多个待处理子数据;
用所述待处理数据的更新数据按照预定规则更新所述待处理子数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610222207.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:流式数据处理方法和装置
- 下一篇:数据的收集方法及装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置