[发明专利]一种基于Map/Reduce的非结构化数据的处理方法和装置有效
| 申请号： | 201510221354.3 | 申请日： | 2015-05-04 |
| 公开（公告）号： | CN104794231B | 公开（公告）日： | 2018-05-25 |
| 发明（设计）人： | 罗敬宁 | 申请（专利权）人： | 罗敬宁 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30 |
| 代理公司： | 北京三友知识产权代理有限公司 11127 | 代理人： | 王涛 |
| 地址： | 100089 北京市海*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种基于Map/Reduce的非结构化数据的处理方法和装置，涉及云计算和分布式数据系统技术领域。该方法包括：预先创建非结构化数据的对象代理；建立对象代理、数据文件以及序列化处理节点的映射关系；生成基于对象代理的Key‑Value对集，通过Map/Reduce计算框架将Key‑Value对集进行分割，使得每个计算节点得到相应的Key‑Value对集序列；通过Key‑Value对集中的对象代理和映射关系，确定各对象对应的序列化处理节点；通过序列化处理节点对各对象进行动态序列化处理，生成各对象的数据实体；通过计算节点对各数据实体进行反序列化处理，重构各内存对象，以对内存对象进行后续计算处理。 | ||
| 搜索关键词： | 对象代理 非结构化数据 序列化处理 方法和装置 计算节点 数据实体 映射关系 分布式数据系统 反序列化处理 动态序列 计算处理 内存对象 数据文件 预先创建 云计算 重构 分割 | ||
【主权项】：
1.一种基于Map/Reduce的非结构化数据的处理方法，其特征在于，包括：预先创建非结构化数据的对象代理；所述非结构化数据由一个或多个对象组成，所述对象代理用于描述非结构化数据中的对象；建立对象代理、数据文件以及序列化处理节点的映射关系；生成基于对象代理的Key-Value对集，通过Map/Reduce计算框架将所述Key-Value对集进行分割，使得每个计算节点得到相应的Key-Value对集序列；通过Key-Value对集的对象代理和映射关系，确定各对象对应的序列化处理节点；通过所述序列化处理节点对各对象进行序列化处理，生成各对象的数据实体；通过计算节点对各数据实体进行反序列化处理，重构各内存对象，以对所述内存对象进行计算处理。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于罗敬宁，未经罗敬宁许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201510221354.3/，转载请声明来源钻瓜专利网。
