[发明专利]数据处理系统和数据处理方法有效
申请号: | 201610387562.5 | 申请日: | 2016-06-01 |
公开(公告)号: | CN107451090B | 公开(公告)日: | 2020-09-11 |
发明(设计)人: | 张延松;张宇;李翠平;孙东旺 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F15/17 | 分类号: | G06F15/17 |
代理公司: | 北京龙双利达知识产权代理有限公司 11329 | 代理人: | 毛威;兰春娥 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理系统 数据处理 方法 | ||
本发明提供了数据处理系统和数据处理方法。该数据处理系统包括主处理器、协处理器和控制模块;该主处理器用于将待处理数据发送至该控制模块;该控制模块用于接收该主处理器发送的该待处理数据,并将该待处理数据发送至该协处理器;该协处理器用于接收该控制模块发送的该待处理数据,对该待处理数据进行处理,得到该待处理数据的处理结果,并将该待处理数据的处理结果通过该控制模块发送至该主处理器;该主处理器用于接收该协处理器通过该控制模块发送的该待处理数据的处理结果。本发明提供的数据处理系统和数据处理方法能够简化系统的设计,并且减轻主处理器的工作负担。
技术领域
本发明涉及数据库领域,尤其涉及数据处理系统和数据处理方法。
背景技术
主处理器与协处理器协助处理数据的混合平台架构通常由1-2个中央处理器(英文:central processing unit,简称:CPU)和1-8个集成众核(英文:many integratedcore,简称:MIC)协处理器构成,协处理器处理器常用作联机分析处理(英文:onlineanalytical processing,简称:OLAP)查询加速器,主要处理OLAP查询中计算密集型任务。从计算特征来看,协处理器尤其用于数据的连接处理或聚集处理等耗时且适合并行完成的独立操作。
在现有的CPU与MIC混合架构处理数据的过程中,需要先在MIC端分配空间,从CPU端通过外部设备互连总线(英文:peripheral component interconnect express,简称:PCIe)通道向MIC端拷贝需要处理的两个数据,然后在MIC端执行实时操作系统(kernel)程序对两个数据进行处理,并将处理结果通过PCIe通道由MIC端拷贝到CPU端,最后MIC端释放已分配的空间。
然而,当需要进行大数据量的数据处理时,不能将数据一次全部存储于MIC端,这时需要在CPU端对两个数据进行数据分区,然后在MIC端对每一分区进行上述数据处理过程,这样以来,所有的数据处理、数据传输以及内存访问管理工作都是由主处理器来执行,导致主处理器的工作负担比较重,并且在系统代码设计中需要集成数据传输、数据处理与内存访问管理的功能,代码比较复杂。
发明内容
本发明提供了一种数据处理的系统和方法,能够简化系统的设计,并且减轻主处理器的工作负担。
第一方面,提供了一种数据处理系统,包括主处理器、协处理器和控制模块;
该主处理器用于将待处理数据发送至该控制模块;该控制模块用于接收该主处理器发送的该待处理数据,并将该待处理数据发送至该协处理器;
该协处理器用于接收该控制模块发送的该待处理数据,对该待处理数据进行处理,得到该待处理数据的处理结果,并将该待处理数据的处理结果通过该控制模块发送至该主处理器;
该主处理器用于接收该协处理器通过该控制模块发送的该待处理数据的处理结果。
本发明实施例的数据处理系统,通过在主处理器和协处理器之间增加用于控制传输数据的控制模块,减轻了主处理器的工作负担,并且简化了原本将集成数据处理、数据传输以及内存管理于一体的系统代码。
结合第一方面,在第一方面的第一种可能的实现方式中,该控制模块用于:将该待处理数据一次性发送至该协处理器,或者将该待处理数据分批发送至该协处理器,其中,在将该待处理数据发送至该协处理器时携带该待处理数据的存储属性,该存储属性包括驻留属性或流转属性,该驻留属性表示该待处理数据能够被多次访问,该流转属性表示该待处理数据仅能够被访问一次。
结合第一方面的第一种可能的实现方式,在第一方面的第二种可能的实现方式中,该控制模块具体用于:根据该待处理数据的处理上下文、该待处理数据的数据量和该协处理器可用的内存大小,确定该待处理数据的存储属性。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201610387562.5/2.html,转载请声明来源钻瓜专利网。