[发明专利]一种数据处理方法、装置、设备及介质在审
申请号: | 201810803156.1 | 申请日: | 2018-07-20 |
公开(公告)号: | CN109062636A | 公开(公告)日: | 2018-12-21 |
发明(设计)人: | 赵旭东;景璐;黄雪 | 申请(专利权)人: | 浪潮(北京)电子信息产业有限公司 |
主分类号: | G06F9/448 | 分类号: | G06F9/448;G06F9/50 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
地址: | 100085 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 处理进程 原始数据 原始数据分配 目标处理 数据运算 数据处理 线程 数据处理装置 并行处理 海量数据 进程获取 数据片段 运算处理 进程 预设 运算 分配 配合 | ||
1.一种数据处理方法,其特征在于,包括:
利用MPI启动N个处理进程;其中,N为大于1的整数,所述处理进程中预设有数据运算函数;
获取原始数据,并分别将各所述原始数据分配至对应的目标处理进程;
在各所述目标处理进程内,均采用OpenMP将所述原始数据划分为数据片段并分配至各预设线程,以通过所述数据运算函数对所述原始数据进行运算。
2.根据权利要求1所述的方法,其特征在于,所述利用MPI启动N个处理进程具体为:
利用所述MPI启动N个deConvolution处理进程;
相应的,所述原始数据具体为原始数据数组;
相应的,所述数据运算函数具体包括findPeaks函数以及subtractPSF函数。
3.根据权利要求2所述的方法,其特征在于,所述利用所述MPI启动N个deConvolution处理进程具体为:
利用所述MPI在搭载有Intel KNM处理器的运算设备中启动N个所述deConvolution处理进程。
4.根据权利要求3所述的方法,其特征在于,所述findPeaks函数以及所述subtractPSF函数中均预设有#pragma simd指令;
相应的,在所述通过所述数据运算函数对所述原始数据数组进行运算前,该方法进一步包括:
对所述数据运算函数进行编译,并在编译内容中加载AVX512指令集。
5.根据权利要求4所述的方法,其特征在于,所述获取原始数据具体为:
在MCDRAM内存中获取所述原始数据数组;其中,所述MCDRAM内存中的所述原始数据数组预先经过8字节对齐。
6.根据权利要求2所述的方法,其特征在于,采用OpenMP将所述原始数据数组划分为数据片段并分配至各预设线程,以通过所述findPeaks函数对所述原始数据数组进行运算的具体步骤包括:
预先开辟第一临时空间以及第二临时空间;
控制各所述预设线程通过所述findPeaks函数对相应的所述数据片段进行运算,并将生成的最大值记录至所述第一临时空间,将所述最大值对应的最大值索引记录至所述第二临时空间;
当完成对各所述数据片段的运算时,对所述第一临时空间中的各所述最大值进行归约运算生成全局最大值,并根据所述全局最大值在所述第二临时空间中获取对应的全局最大值索引。
7.根据权利要求1-6任意一项所述的方法,其特征在于,在所述通过所述数据运算函数对所述原始数据进行运算后,该方法进一步包括:
将对所述原始数据进行运算的结果记录至预设的结果日志。
8.一种数据处理装置,其特征在于,包括:
进程启动模块,用于利用MPI启动N个处理进程;其中,N为大于1的整数,所述处理进程中预设有数据运算函数;
数据分配模块,用于获取原始数据,并分别将各所述原始数据分配至对应的目标处理进程;
函数运算模块,用于在各所述目标处理进程内,均采用OpenMP将所述原始数据划分为数据片段并分配至各预设线程,以通过所述数据运算函数对所述原始数据进行运算。
9.一种数据处理设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至7任一项所述的数据处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的数据处理方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮(北京)电子信息产业有限公司,未经浪潮(北京)电子信息产业有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810803156.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种识别操作系统版本的方法及系统
- 下一篇:界面控制方法、装置和智能穿戴设备