[发明专利]通用力场数据库及其更新方法和检索方法在审
申请号: | 201810420916.0 | 申请日: | 2018-05-04 |
公开(公告)号: | CN108804863A | 公开(公告)日: | 2018-11-13 |
发明(设计)人: | 杨明俊;师雪坤;曹风雷;孙广旭;刘阳;张佩宇;马健;赖力鹏;温书豪 | 申请(专利权)人: | 深圳晶泰科技有限公司 |
主分类号: | G06F19/00 | 分类号: | G06F19/00 |
代理公司: | 深圳市科吉华烽知识产权事务所(普通合伙) 44248 | 代理人: | 胡玉 |
地址: | 518000 广东省深圳市龙华区*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 检索 控制层 数据库 力场 数据更新 数据清洗 视图层 数据源 通用 更新 数据采集模块 数据检索模块 数据校验模块 准确度 分子力场 复杂数据 获取目标 检索方式 简单数据 数据仓库 数据存储 数据检索 数据校验 通信连接 性能平衡 模型层 元数据 封装 架构 平衡 | ||
1.通用力场数据库,其特征在于,包括模型层、视图层、控制层的3层MVC架构;
所述的模型层,数据存储采用SQL+文件数据库的混合架构,核心数据包括 SQL 中的8张表,分别是分子表,分子片段表、力场参数表、原子类型表、力场计算数据表、量化计算数据表、实验数据表、分子动力学模拟数据表;力场计算、量化计算、分子动力学模拟的计算日志都是以文件的形式存储在文件数据库中的;
控制层包括4个核心模块,分别为数据采集模块、数据清洗模块、数据校验模块和数据检索模块;所述的数据采集模块对模型层有读写的权限;数据校验模块、数据检索模块对模型层只有读的权限;数据清洗模块只被数据采集模块调用,对模型层没有读写权限;
所述的视图层用 Python 封装的SDK实现;
控制层和视图之间通信连接。
2.根据权利要求1所述的通用力场数据库的更新方法,其特征在于,包括两种方式:定期从公开的数据源获取最新的元数据,根据数据仓库的数据更新从公开的数据源获取目标数据;
所述的定期从公开的数据源获取最新的元数据,包括以下过程:
(1)用户通过SDK向数据采集模块发送需要获取数据的数据源地址,更新频率,以及数据源中的数据与标准数据的对应关系;
(2)数据采集模块内部持续运行的定时器,根据用户设定的更新频率,定时器触发更新,数据采集模块主动向数据源发送请求获取数据;
(3)数据源返回数据后,数据采集模块将数据存储在临时文件系统中;
(4)数据采集模块调用数据清洗模块按标准数据格式清洗数据,并将输出的标准化的数据存储在临时文件系统中;
(5)数据采集模块调用数据校验模块,按照预设的规则逐一校验标准化后的数据,并将通过校验的数据传给模型层添加到数据库中;
(6)未通过校验的数据会记录到疑似错误数据表中,用户可以通过SDK手动编辑数据,并重新校验;
所述的根据数据仓库的数据更新从公开的数据源获取目标数据,包括以下过程:
(1)用户主动导入数据,用户通过SDK向数据采集模块主动导入了一批数据;
(2)数据采集模块会根据用户导入的数据自动判断哪些已有的数据源与这些数据有关联,并向这些数据源发送获取数据请求;
(3)以下步骤同所述的定期从公开的数据源获取最新的元数据的步骤(3)~步骤(6)。
3.根据权利要求2所述的通用力场数据库的更新方法,其特征在于,所述的用户主动导入数据的方法为,用户通过SDK向数据采集模块发送需要导入的数据和数据类型,导入的数据格式支持JSON、XML、TXT、CVS、数据类型可以指定分子、分子片段、力场参数、原子类型、力场计算数据、量化计算数据、实验数据;将用户上传的数据存储在临时文件系统中。
4.根据权利要求2所述的通用力场数据库的更新方法,其特征在于,还包括数据清洗,数据清洗由数据采集模块触发,包括以下过程:
(1)数据采集模块调用数据清洗模块,并将需要清洗的数据从临时文件系统传给数据清洗模块;
(2)数据清洗模块首先会根据数据内容和类型标记判断需要清洗的数据的类型;并根据类型调用相应的解释器;
(3)解释器安装标准格式据逐一匹配内容,如果匹配成功,就将数据填入内存里对应的数据结构中;
(4)直到全部数据匹配完成,内存中的数据就是清洗好的数据,模,将这些数据持久化到临时文件系统中。
5.根据权利要求1所述的通用力场数据库的更新方法,其特征在于,还包括数据校验,数据校验由数据采集模块触发,包括以下过程:
(1)数据采集模块调用数据校验模块,并将需要校验的数据从临时文件系统传给数据校验模块;
(2)数据校验模块逐条校验数据,首先识别数据的类型,根据数据的类型,从模型层读取相应的校验规则列表;
(3)按校验规则列表逐条匹配需要校验的单条数据,对每一条校验规则,先请求模型层,获取校验规则中需要用到的数据,然后通过校验规则运算后看看与被校验数据是否一直,如果一致则校验成功,如果不一致则校验失败;
(4)上述步骤循环完成后全部通过校验的数据会被模块持久化到临时文件系统中。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳晶泰科技有限公司,未经深圳晶泰科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810420916.0/1.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06F 电数字数据处理
G06F19-00 专门适用于特定应用的数字计算或数据处理的设备或方法
G06F19-10 .生物信息学,即计算分子生物学中的遗传或蛋白质相关的数据处理方法或系统
G06F19-12 ..用于系统生物学的建模或仿真,例如:概率模型或动态模型,遗传基因管理网络,蛋白质交互作用网络或新陈代谢作用网络
G06F19-14 ..用于发展或进化的,例如:进化的保存区域决定或进化树结构
G06F19-16 ..用于分子结构的,例如:结构排序,结构或功能关系,蛋白质折叠,结构域拓扑,用结构数据的药靶,涉及二维或三维结构的
G06F19-18 ..用于功能性基因组学或蛋白质组学的,例如:基因型–表型关联,不均衡连接,种群遗传学,结合位置鉴定,变异发生,基因型或染色体组的注释,蛋白质相互作用或蛋白质核酸的相互作用