[发明专利]一种数据集成方法、装置和系统有效
申请号: | 201611224002.4 | 申请日: | 2016-12-27 |
公开(公告)号: | CN108241709B | 公开(公告)日: | 2021-07-20 |
发明(设计)人: | 李小涛;游树娟;牛亚文 | 申请(专利权)人: | 中国移动通信有限公司研究院;中国移动通信集团公司 |
主分类号: | G06F16/383 | 分类号: | G06F16/383;G06F16/2458;G06F16/25 |
代理公司: | 北京银龙知识产权代理有限公司 11243 | 代理人: | 许静;安利霞 |
地址: | 100053 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 集成 方法 装置 系统 | ||
1.一种数据集成方法,其特征在于,包括:
根据不同节点中原始数据的主题类型,确定与所述原始数据对应的元数据标签;
根据所述元数据标签,获取所述原始数据中对应所述元数据标签的数据信息;
根据预设元数据格式,将所述元数据标签与对应的数据信息结合,生成对应不同节点的元数据;
根据获取到的查询关键词,确定与所述查询关键词关联的词语,得到待查询词语;在不同节点存储的所述元数据中,查询包括所述待查询词语的目标元数据,包括:在各个节点的元数据索引中,查询是否存在所述待查询词语;若当前节点存在所述待查询词语,基于中文全文检索引擎和文本深度表示模型,查询出目标元数据,其中,根据相关性得分公式,得到当前元数据与所述待查询词语的相关度Score(Q,d,E),若所述相关度满足一预设条件,则确定所述当前元数据为目标元数据,Q表示目标关键词的集合,d表示被检索的元数据,E表示通过文本深度表示模型对Q中查询词进行语义扩展后得到的各个扩展词的集合;
获取对应所述目标元数据的原始数据。
2.根据权利要求1所述的数据集成方法,其特征在于,根据预设元数据格式,将所述元数据标签与对应的数据信息结合,生成对应不同节点的元数据的步骤包括:
根据预设元数据格式,将所述元数据标签按照标签等级进行布局;将获取到的数据信息添加到对应的元数据标签中,生成对应不同节点的元数据,并将所述元数据保存在对应的节点中。
3.根据权利要求1所述的数据集成方法,其特征在于,所述元数据标签包括固定标签;
所述固定标签表示元数据的属性,包括原始数据的发布用户、发布时间、主题、描述信息、数据库存储位置,以及元数据编号。
4.根据权利要求3所述的数据集成方法,其特征在于,所述元数据标签还包括特性标签,所述特性标签表示原始数据的主题特性。
5.根据权利要求1所述的数据集成方法,其特征在于,根据获取到的查询关键词,确定与所述查询关键词关联的词语,得到待查询词语的步骤包括:
对查询关键词进行分词,得到目标关键词;
基于文本深度表示模型,确定出与所述目标关键词关联的词语;
将所述目标关键词和与所述目标关键词关联的词语整合,得到待查询词语。
6.根据权利要求1所述的数据集成方法,其特征在于,在各个节点的元数据索引中,查询是否存在所述待查询词语的步骤包括:
根据所述待查询词语,获取当前节点过滤器的位数组内的记录信息;其中所述过滤器包括存储在自身的位数组和存储在数据库中的计数表,所述计数表是二维数据表,记录自身所属节点的所有元数据索引经哈希函数处理后,映射到所述位数组中对应位的累加数值;
根据所述记录信息,确定当前节点是否存在所述待查询词语。
7.根据权利要求6所述的数据集成方法,其特征在于,所述位数组是包括m位的二进制向量,若所述计数表中对应位的累加数值大于0,则所述位数组的对应位记为1;若所述计数表中对应位的累加数值等于0,则所述位数组的对应位记为0;
根据所述记录信息,确定当前节点是否存在所述待查询词语的步骤包括:
若所述记录信息表示对应所述待查询词语的位中存在至少一个0,则确定当前节点不存在所述待查询词语;若所述过滤器中对应所述待查询词语的位中不存在0,则确定当前节点存在所述待查询词语。
8.根据权利要求1所述的数据集成方法,其特征在于,所述相关性得分公式为:其中Q表示目标关键词的集合,qi表示Q的一个分词,d表示被检索的元数据,E表示通过文本深度表示模型对Q中查询词进行语义扩展后得到的扩展词的集合,mi表示的语义扩展词数量,表示qi与之间的语义相似度,表示的权重,为在d中的出现频率,k和b为调节因子,dl为d的长度,avgdl为所有元数据的平均长度;N为索引中的全部记录个数,为包含了的记录个数,n为目标关键词的集合Q包含的词语个数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信有限公司研究院;中国移动通信集团公司,未经中国移动通信有限公司研究院;中国移动通信集团公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611224002.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:选择性时空刺激脊髓的系统
- 下一篇:动力驱动系统以及车辆
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置