[发明专利]数据的并行处理有效
申请号: | 201510772809.0 | 申请日: | 2011-05-04 |
公开(公告)号: | CN105279022B | 公开(公告)日: | 2019-10-01 |
发明(设计)人: | C·D·查姆伯斯;A·拉尼瓦拉;F·J·皮里;R·R·亨利;J·蒂加尼;S·R·阿达姆斯;R·布拉德肖;N·韦曾鲍姆 | 申请(专利权)人: | 谷歌有限责任公司 |
主分类号: | G06F9/48 | 分类号: | G06F9/48 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 周亚荣;安翔 |
地址: | 美国加利*** | 国省代码: | 美国;US |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 并行 处理 | ||
1.一种由一个或者多个处理器执行的计算机实施的方法,所述方法包括:
在非置信处理环境中分析包括数据并行流水线的非置信应用以产生用于所述非置信应用的数据流图形;
在与所述非置信处理环境相关联的置信处理环境中接收用于所述非置信应用的所述数据流图形;
在所述置信处理环境中将所述数据流图形变换成用于所述非置信应用的修正的数据流图形,所述修正的数据流图形包括一个或者多个延缓的数据对象和各自与由所述非置信应用调用的一个或者多个非置信函数对应的一个或者多个延缓的并行操作;以及
在一个或者多个非置信工作器环境中执行与所述延缓的并行操作对应的所述非置信函数以产生与所述延缓的数据对象对应的具体化的并行数据对象,每个非置信工作器环境与置信工作器环境相关联。
2.根据权利要求1所述的方法,其中所述非置信处理环境包括第一虚拟机,并且所述一个或者多个非置信工作器环境包括一个或者多个附加虚拟机。
3.根据权利要求2所述的方法,其中所述第一虚拟机和所述一个或者多个附加虚拟机是硬件虚拟机。
4.根据权利要求1所述的方法,其中在所述一个或者多个非置信工作器环境中执行与所述延缓的并行操作相关联的所述非置信函数包括:
从所述非置信工作器环境以外向所述非置信工作器环境中传达输入批处理记录,所述输入批处理记录包括多个个别输入记录;以及
对所述输入批处理中的所述个别记录中的每个记录执行与所述延缓的组合操作相关联的所述非置信函数中的至少一个非置信函数以生成输出记录;
将所述输出记录汇集成输出批处理;以及
在所述非置信工作器环境以外传达所述输出批处理。
5.根据权利要求1所述的方法,还包括将所述非置信应用的输出发送到请求执行所述非置信应用的客户端系统。
6.根据权利要求1所述的方法,其中:
所述延缓的并行操作包括至少一个广义映射精简操作,所述广义映射精简操作包括多个并行映射操作和多个并行精简操作,并且所述广义映射精简操作可转译成单个映射精简操作,所述单个映射精简操作包括用于实施所述多个并行映射操作的单个映射函数和用于实施所述多个并行精简操作的单个精简函数,所述单个映射函数和所述单个精简函数包括所述非置信函数中的一个或者多个非置信函数。
7.根据权利要求6所述的方法,其中:
执行所述延缓的并行操作包括将所述广义映射精简操作转译成所述单个映射精简操作;并且
在所述一个或者多个非置信工作器环境中执行与所述延缓的并行操作相关联的所述非置信函数包括在所述一个或者多个非置信工作器环境中执行所述单个映射函数和所述单个精简函数。
8.根据权利要求1所述的方法,其中接收用于所述非置信应用的所述数据流图形包括接收远程过程调用。
9.根据权利要求8所述的方法,还包括审核所述远程过程调用。
10.一种用于处理数据的系统,包括:
存储器;以及
处理器,配置成:
在非置信处理环境中分析包括数据并行流水线的非置信应用以产生用于所述非置信应用的数据流图形;
在与所述非置信处理环境相关联的置信处理环境中接收用于所述非置信应用的所述数据流图形;
在所述置信处理环境中将所述数据流图形变换成用于所述非置信应用的修正的数据流图形,所述修正的数据流图形包括一个或者多个延缓的数据对象和各自与由所述非置信应用调用的一个或者多个非置信函数对应的一个或者多个延缓的并行操作;以及
在一个或者多个非置信工作器环境中执行与所述延缓的并行操作对应的所述非置信函数以产生与所述延缓的数据对象对应的具体化的并行数据对象,每个非置信工作器环境与置信工作器环境相关联。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司,未经谷歌有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510772809.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置