[发明专利]一种数据整合方法、装置、存储介质和服务器有效
申请号: | 201910264892.9 | 申请日: | 2019-04-03 |
公开(公告)号: | CN110147360B | 公开(公告)日: | 2021-07-30 |
发明(设计)人: | 苏梅;薛辉 | 申请(专利权)人: | 深圳价值在线信息科技股份有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 翁唱玲 |
地址: | 518000 广东省深圳市福田区沙头街道*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 整合 方法 装置 存储 介质 服务器 | ||
1.一种资本市场数据整合方法,其特征在于,所述数据整合方法包括:
获取指定信息源的公开数据;
根据所述公开数据的结构特征,选择与所述结构特征对应的预处理方式对所述公开数据进行预处理,得到目标数据,包括:
若所述公开数据为非结构化数据,则根据预定义数据模型,将所述非结构化数据转换为半结构化数据;
对所述半结构化数据进行命名实体识别,具体地,对所述半结构化数据进行中文分词,利用正则表达式提取关键词,对提取的关键词进行命名实体识别;
基于识别的命名实体,提取目标数据;
根据预设业务逻辑,将所述目标数据与数据仓库已存储的自有数据进行整合,生成案例数据,其中,所述自有数据是指根据指定的数据处理规则处理得到的自有专业业务数据,具体地,合规专家根据业务类型规划资产重组、回购、质押、首发上市相关案例数据结构,设立时间窗口,所述时间窗口是指数据的有效时间段,根据所述时间窗口将数据分段,根据业务维度进行数据分类,根据预设的业务逻辑,利用ETL工具对数据进行清洗转换,通过人工补充复核的方式为各案例数据仓库创建自有专业业务数据,对法规添加相应的位阶、适用范围、发文部门、文号的相关属性,并把法规拆分为编、章、节、条进行结构化存储,并通过与相关违规案例相关联、通过发文部门和法规沿革的补充形成存储自有数据的案例数据仓库。
2.根据权利要求1所述的数据整合方法,其特征在于,所述公开数据包括结构化数据和非结构化数据,所述获取指定信息源的公开数据的步骤,包括:
连接业务服务器,定时获取所述业务服务器收集的结构化数据;
监控指定的信息平台,在所述指定的信息平台上爬取非结构化数据。
3.根据权利要求1所述的数据整合方法,其特征在于,所述根据所述公开数据的结构特征,选择与所述结构特征对应的预处理方式对所述公开数据进行预处理,得到目标数据的步骤,包括:
若所述公开数据为结构化数据,则将所述结构化数据进行数据清洗;
按预定义挖掘算法对清洗后的所述结构化数据进行挖掘,得到目标数据。
4.根据权利要求1所述的数据整合方法,其特征在于,所述根据预设业务逻辑,将所述目标数据与数据仓库已存储的自有数据进行整合,生成案例数据步骤,包括:
判断所述目标数据与自有数据是否存在关联;
若所述目标数据与自有数据存在关联,则建立所述目标数据与所述自有数据的映射关系;
将所述目标数据与所述自有数据的映射关系存入所述数据仓库。
5.根据权利要求1所述的数据整合方法,其特征在于,所述数据整合方法还包括:
根据预定义需求维度,将所述案例数据分类存入所述预定义需求维度对应的数据集市;
当检测到搜索指令时,获取所述搜索指令携带的需求维度;
在所述需求维度对应的数据集市中进行检索查询。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳价值在线信息科技股份有限公司,未经深圳价值在线信息科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910264892.9/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置