[发明专利]一种数据分析引擎的数据探索方法及系统在审
申请号: | 202011381625.9 | 申请日: | 2020-11-30 |
公开(公告)号: | CN112579582A | 公开(公告)日: | 2021-03-30 |
发明(设计)人: | 张涛;雷厚宇;杨启帆;陆苇;黄纪萍;陶心万;江波 | 申请(专利权)人: | 贵州力创科技发展有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/2458;G06F16/951 |
代理公司: | 北京轻创知识产权代理有限公司 11212 | 代理人: | 厉洋洋 |
地址: | 550014 贵州省贵阳市国家高新技术产业开发*** | 国省代码: | 贵州;52 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 分析 引擎 探索 方法 系统 | ||
1.一种数据分析引擎的数据探索方法,其特征在于:包括以下步骤,
S1,采集外部大数据并对所述外部大数据进行清理和结构化处理,得到结构化数据集;
S2,对所述结构化数据集中的结构化数据进行特征化,得到每个结构化数据的特征值,并形成特征值集合;
S3,基于深度学习数据模型对所述特征值集合进行数据探索,得到数据探索结果。
2.根据权利要求1所述的数据分析引擎的数据探索方法,其特征在于:在所述S1中,采用数据爬虫采集所述外部大数据并对所述外部大数据进行清理和结构化处理,所述数据爬虫内镶嵌有数据爬取组件、数据清理组件和数据结构化组件;所述S1具体为,利用所述数据爬取组件采集外部大数据,并利用所述数据清理组件清理所述外部大数据,且利用数据结构化组件对清理后的所述外部大数据进行结构化,得到结构化数据集。
3.根据权利要求1或2所述的数据分析引擎的数据探索方法,其特征在于:所述结构化数据集中的每个结构化数据均包括X、Y和Z三个维度的结构特征;所述S2具体为,
S21,基于预设的特征化粒度计算所述结构化数据X、Y和Z三个维度的结构特征分别对应的特征化驱动值;
S22,根据所述结构化数据X、Y和Z三个维度的结构特征分别对应的特征化驱动值对所述结构化数据X、Y和Z三个维度的结构特征进行正向特征化,得到所述结构化数据X、Y和Z三个维度的第一特征值;根据所述结构化数据X、Y和Z三个维度的结构特征分别对应的特征化驱动值对所述结构化数据X、Y和Z三个维度的结构特征进行反向特征化,得到所述结构化数据X、Y和Z三个维度的第二特征值;
S23,判断所述第一特征值与所述第二特征值在X、Y和Z三个维度是否对应匹配;若匹配,则将所述第一特征值与所述第二特征值在X、Y和Z三个维度上的平均值作为所述结构化数据在X、Y和Z三个维度的最终特征值;若不匹配,则将所述结构化数据过滤掉。
4.根据权利要求3所述的数据分析引擎的数据探索方法,其特征在于:所述深度学习数据模型具体为卷积神经网络模型;所述S3具体为,
S31,将所述结构化数据在X、Y和Z三个维度的最终特征值输入到所述卷积神经网络模型中,并在正卷积和反卷积处理的过程中依据探索权值进行正向探索,输出一维正向探索向量;
S32,将所述一维正向探索向量与预设正向探索向量进行作差处理,计算出正向探索损失向量;
S33,采用链式方式对所述正向探索损失向量进行反向探索来调整所述探索权值,并返回重复执行所述S31和所述S32,直至所述正向探索损失向量为零向量;
S34,将所述卷积神经网络模型最终输出的所述一维正向探索向量作为数据探索结果。
5.根据权利要求1或2或4所述的数据分析引擎的数据探索方法,其特征在于:在所述S3之后,还包括如下步骤,
S4,将所述数据探索结果进行多媒体化,并通过展示接口向用户展示。
6.一种数据分析引擎的数据探索系统,其特征在于:包括以下模块,
数据采集模块,其用于采集外部大数据并对所述外部大数据进行清理和结构化处理,得到结构化数据集;
数据特征化模块,其用于对所述结构化数据集中的结构化数据进行特征化,得到每个结构化数据的特征值,并形成特征值集合;
数据探索模块,其用于基于深度学习数据模型对所述特征值集合进行数据探索,得到数据探索结果。
7.根据权利要求6所述的数据分析引擎的数据探索系统,其特征在于:在所述数据采集模块中,采用数据爬虫采集所述外部大数据并对所述外部大数据进行清理和结构化处理,所述数据爬虫内镶嵌有数据爬取组件、数据清理组件和数据结构化组件;所述数据采集模块具体用于,
利用所述数据爬取组件采集外部大数据,并利用所述数据清理组件清理所述外部大数据,且利用数据结构化组件对清理后的所述外部大数据进行结构化,得到结构化数据集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贵州力创科技发展有限公司,未经贵州力创科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011381625.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种奶牛乳肉兼用品种的饲养方法
- 下一篇:一种全豆豆粉的生产工艺
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置