[发明专利]一种大数据处理方法、处理装置、设备及介质在审
申请号: | 202011589560.7 | 申请日: | 2020-12-28 |
公开(公告)号: | CN114691719A | 公开(公告)日: | 2022-07-01 |
发明(设计)人: | 颜秋辰 | 申请(专利权)人: | 苏州曲率量子智能科技有限公司 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F16/28;G06F9/38;G06N3/02 |
代理公司: | 苏州智品专利代理事务所(普通合伙) 32345 | 代理人: | 唐学青 |
地址: | 215000 江苏省苏州市中国(江苏)自由贸易试验*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 处理 装置 设备 介质 | ||
1.一种大数据处理方法,其特征在于,所述方法包括:
获取待处理的数据并预处理成近似复杂度的计算单元,
将处理完成的数据块存入显存模块,
基于GPU阵列调用显存模块中的计算单元,并基于GPU阵列与CPU并行计算的方式批量的进行第一回数据处理,
基于F分布的模型筛选第一回数据处理后的数据,以祛除不需要的数据并将其输出,筛选剩余的数据再次存入到显存模块,通过设定的函数打点式的呈现。
2.如权利要求1所述的大数据处理方法,其特征在于,还包括筛选剩余的数据再次存入到显存模块,
基于GPU阵列调用显存模块中的计算单元,并基于GPU阵列与CPU并行计算的方式再次计算,直至结算完成,并通过设定的函数打点式的呈现。
3.如权利要求1所述的大数据处理方法,其特征在于,所述预处理包括对获取的数据编译每行数据。
4.如权利要求1所述的大数据处理方法,其特征在于,
所述预处理过程包括:
基于如下的神经网络算法将数据转换成预设格式和/或大小的数据块,
其中,x1代表输入的数据单元;wT表示对应数据的权重;b为偏执单元匹配对应数据单元x1,hj代表计算输入的数据单元x1之后得到的系统数据;ai代表通过神经网络算法的计算后得到的隐藏层数据。
5.如权利要求4所述的大数据处理方法,其特征在于,
快速计算数据总数后,基于:
及
进行拆分数据行,
其中,D表示需要处理的数据矩阵,a为数据单元,Dj是把D中第j列元素对应地换成常数项而其余各列保持不变所得到的行列式,X为差分后的数据单元,n为自然数。
6.如权利要求1所述的大数据处理方法,其特征在于,
基于GPU阵列计算单元调用显存模块中的数据块并通过克莱姆法则快速的计算调用的数据块。
7.如权利要求1所述的大数据处理方法,其特征在于,
计算的结果基于
函数数据呈现,
其中,f(t)为我神经网络公式,e为自然对数,w为常量化参数。
8.一种大数据处理装置,其特征在于,
数据获取模块,其用以获取待处理的数据,
数据转换模块,其接收数据获取模块获取的数据并预处理成预设的格式和/或大小的数据块,
显存模块,其用以接收数据转换模块处理的数据块,
第一数据处理模块,其调用所述显存模块中的数据块并批量的进行第一回数据处理,
数据筛选模块,其基于F分布的模型筛选第一数据处理模块处理后的数据,以祛除不需要的数据,筛选剩余的数据再次存入到显存模块,
第一数据处理模块和第二数据处理模块的组合,以调用筛选过的数据并进行再次计算,
数据显示模块,其通过设定的函数打点式的呈现经第一数据处理模块和第二数据处理模块并行计算完成的数据。
9.一种数据处理设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至7任一项所述的数据处理方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的数据处理方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州曲率量子智能科技有限公司,未经苏州曲率量子智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011589560.7/1.html,转载请声明来源钻瓜专利网。