[发明专利]一种关系型数据库中表分段抽取系统及方法有效
申请号: | 201510812954.7 | 申请日: | 2015-11-20 |
公开(公告)号: | CN105468725B | 公开(公告)日: | 2019-03-08 |
发明(设计)人: | 郭李明 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25;G06F16/2458;G06F16/27 |
代理公司: | 中科专利商标代理有限责任公司 11021 | 代理人: | 宋焰琴 |
地址: | 100080 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 关系 数据库 中表 分段 抽取 系统 方法 | ||
1.一种关系型数据库中表分段抽取系统,其特征在于,包括:
抽取模块,用于对表进行分段抽取;
日志模块,用于根据抽取模块的分段抽取结果,生成日志信息并存储;
步长管理模块,用于提取所述日志模块中的日志信息,并根据该日志信息,生成优化步长信息并存储,所述优化步长信息供所述抽取模块对表进行后续的分段抽取,
其中,所述优化步长信息包括优化分段总数及每个分段的优化抽取行数。
2.根据权利要求1所述的关系型数据库中表分段抽取系统,其特征在于,所述抽取模块判断所述步长管理模块中是否存储有优化步长信息,若是,则根据所述优化步长信息对表进行分段构造,并根据构造的分段对表进行分段抽取;否则,根据固定步长信息对表进行分段构造,并根据构造的分段对表进行分段抽取;其中,固定步长信息包括分段总数及每个分段的抽取行数。
3.根据权利要求2所述的关系型数据库中表分段抽取系统,其特征在于,所述日志信息包括对表进行分段抽取时每个分段的开始位置、结束位置及抽取行数。
4.根据权利要求3所述的关系型数据库中表分段抽取系统,其特征在于,所述步长管理模块包括:
日志检测子模块,用于从所述日志模块中提取日志信息;
步长计算子模块,用于根据日志信息中记录的每个分段的开始位置、结束位置及抽取行数,计算出最优的分段数及每个分段的最优步长,得到优化步长信息;
存储子模块,用于存储优化步长信息。
5.根据权利要求4所述的关系型数据库中表分段抽取系统,其特征在于,所述步长计算子模块计算出每个分段的最优步长,得到优化步长信息包括:
按照每个分段的开始位置对每个分段进行升序排序;
计算每个分段的平均抽取行数m,其公式为:
m=L/n,其中,L为每个分段的行数的合计值,n为总的分段数;
合并抽取行数低于平均抽取行数的相邻分段,并记录通过合并而得到的分段数n1;
记录读取行数等于平均读取行数m的分段数n2;
计算需拆分的分段数n3,其公式为:
n3=n-n1-n2;
计算每个需拆分分段x的拆分分段数kx,其公式为:
kx=Lx/L1×n3,其中,Lx为该需拆分分段x的抽取行数,L1为需拆分的分段总行数合计值;
计算每个需拆分分段x拆分后的每个分段的行数Lxx:
Lxx=Lx/kx;
计算优化后的分段总数N,其公式为:
N=n1+n2+nx,其中,nx为每个需拆分分段拆分后分段数的合计值;
将优化后的分段总数N及每个分段的抽取行数作为优化步长信息。
6.一种关系型数据库中表分段抽取方法,其特征在于,包括:
S1,对表进行分段抽取;
S2,根据分段抽取结果,生成日志信息并存储;
S3,提取存储的日志信息,并根据该日志信息,生成优化步长信息并存储,所述优化步长信息供所述抽取模块对表进行后续的分段抽取,
其中,所述优化步长信息包括优化分段总数及每个分段的优化抽取行数。
7.根据权利要求6所述的关系型数据库中表分段抽取方法,其特征在于,所述步骤S1包括:判断是否存储有优化步长信息,若是,则根据所述优化步长信息对表进行分段构造,并根据构造的分段对表进行分段抽取;否则,根据固定步长信息对表进行分段构造,并根据构造的分段对表进行分段抽取;其中,固定步长信息包括分段总数N及每个分段的抽取行数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510812954.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:销钉型防盗合页
- 下一篇:一种无抠手型面罩锁装置