[发明专利]一种OLAP数据模型自动建模的方法、分类器装置有效
申请号: | 201711487470.5 | 申请日: | 2017-12-29 |
公开(公告)号: | CN108153894B | 公开(公告)日: | 2020-08-14 |
发明(设计)人: | 李栋;张逸凡;李扬;韩卿 | 申请(专利权)人: | 上海跬智信息技术有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/2458 |
代理公司: | 北京轻创知识产权代理有限公司 11212 | 代理人: | 杨立;王丹 |
地址: | 201203 上海市自由*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 olap 数据模型 自动 建模 方法 分类 装置 | ||
1.一种OLAP数据模型自动建模的方法,其特征在于,该方法包括:
S1,获取SQL查询语句;
S2,对所述SQL查询语句进行解析,根据解析结果判断所述SQL查询语句是否存在语法或者词法错误;
S3,若不存在,则根据所述SQL查询语句使用到的与源数据相关的列信息和表信息,对所述SQL查询语句进行查询结构抽取,得到至少N组查询模式,其中N为大于等于1的自然数;
S4,对所述至少N组查询模式进行分类;
S5,将每类中的查询模式进行合并,得到对应的模式关系树;
S6,将所述模式关系树转换成对应的数据模型。
2.根据权利要求1所述的方法,其特征在于,所述列信息是指所述SQL查询语句中使用的所有列,其中每列中包括:该列的列名、该列所在的表、该列的类型和该列出现的次数;
所述表信息是指所述SQL查询语句中使用的所有表,其中每表中包括:该表的表名、该表的类型、该表和事实表的关联信息。
3.根据权利要求2所述的方法,其特征在于,所述S4中对所述至少N组查询模式进行分类包括:
S41,采用静态规则对所述至少N组查询模式中任意两组查询模式进行差异判断,其中,所述静态规则是指计算任意两组查询模式中相同的表的差异度,判断所述表的差异度是否大于第一预设阈值,若大于,则两组查询模式不可分为一类;且在计算完表的差异度后,计算任意两组查询模式中相同的列的差异度,判断所述列的差异度是否大于所述第一预设阈值,若大于则两组查询模式不可分为一类;
S42,在进行差异判断后,采用统计规则和预设学习规则对所述至少N组查询模式进行聚类。
4.根据权利要求3所述的方法,其特征在于,所述S42中采用统计规则和预设学习规则对所述至少N组查询模式进行聚类包括:
S421,根据每组查询模式中使用的列信息和表信息,计算每组查询模式的特征向量;
S422,根据无监督机器学习中的聚类算法和所述预设学习规则对所有的所述特征向量进行聚类。
5.根据权利要求4所述的方法,其特征在于,所述预设学习规则是指在聚类后,判断聚类结果是否符合预设标准,若不符合,则采用有监督机器学习算法对聚类结果进行调整,并记录调整后的聚类结果。
6.根据权利要求3或4所述的方法,其特征在于,所述S5中将每类中的查询模式进行合并,得到对应的模式关系树包括:
计算每类中任意两组查询模式中相同的表的差异度,判断所述表的差异度是否小于第二预设阈值,若小于,则将两组查询模式合并,得到对应的模式关系树;
且在计算完每类中表的差异度后,计算每类中任意两组查询模式中相同的列的差异度,判断所述列的差异度是否小于所述第二预设阈值,若小于,则将两组查询模式合并,得到对应的模式关系树。
7.根据权利要求3或4所述的方法,其特征在于,所述S6中将所述模式关系树中转换成对应的数据模型包括:
将所述模式关系树中的表信息转换成对应的所述数据模型的表信息;
将所述模式关系树中的列信息转换成对应的所述数据模型的列信息。
8.根据权利要求7所述的方法,其特征在于,所述将所述模式关系树中的列信息转换成对应的所述数据模型的列信息还包括:
对所述模式关系树中的列进行分区评分,确定所述数据模型的分区列,其中对所述模式关系树中的列进行分区评分的计算公式为:
PartScore(i)=PartFunc(Score(i),Stats(i)),其中PartFunc()是评分函数,Score(i)是每组查询模式上第(i)列评分,Stats(i)是第(i)列的特征统计值,当第(i)列分区评分PartScore(i)超过预定评分阈值,则将第(i)列设置为分区列。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海跬智信息技术有限公司,未经上海跬智信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711487470.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:连接器装置
- 下一篇:一种具有自动预警功能的Beta射线法颗粒物监测装置