[发明专利]基于降维切分技术实现分布式高并发数据汇总的方法在审
申请号: | 202110935417.7 | 申请日: | 2021-08-16 |
公开(公告)号: | CN113641497A | 公开(公告)日: | 2021-11-12 |
发明(设计)人: | 周迅;闫明明;蔡超 | 申请(专利权)人: | 北京三易思创科技有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50;H04L12/891;G06F30/23;G06F111/02;G06F113/08 |
代理公司: | 北京汇捷知识产权代理事务所(普通合伙) 11531 | 代理人: | 于鹏 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 切分 技术 实现 分布式 并发 数据 汇总 方法 | ||
1.基于降维切分技术实现分布式高并发数据汇总的方法,其特征是:该方法基于高并发数据汇总系统实现,所述数据汇总系统包括数据处理系统和计算节点系统;
所述计算节点系统由多个计算节点服务器组成,CALPUFF模型计算案例随机分配至对应的计算节点服务器,每个计算节点服务器中均包括WRF计算模型计算模块、CALMET模型计算模块和CALPUFF模型计算模块;每个计算节点服务器根据模型计算的结果进行切片,然后进行局部汇总,然后将每个计算节点服务器进行局部汇总的数据传送至数据处理系统进行最终的汇总;
所述数据处理系统包括数据汇总模块、数据分析模块、数据转存模块和图片渲染模块;
所述数据汇总模块用于对接收各个计算节点服务器传送的局部汇总数据进行实时汇总;
所述数据分析模块用于对CALMET和CALPUFF案例最终计算的结果上进行二次数据分析;
数据转存模块完成各种数据的持久化存储;需要被持久化存储的数据包括CALMET和CALPUFF模型计算的结果数据,以及二次统计分析的数据;
所述图片渲染模块将数据渲染成制定格式的图片;需要渲染的数据内容包括CALMET和CALPUFF案例最终计算的结果数据。
2.根据权利要求1所述的基于降维切分技术实现分布式高并发数据汇总的方法,其特征在于:所述二次数据分析包括对污染源的贡献率、最大落地浓度、风速风向统计分析。
3.根据权利要求1所述的基于降维切分技术实现分布式高并发数据汇总的方法,其特征在于:每个计算节点服务器进行局部汇总后,将数据进行降维,即:按照每个维度的制定数据流的格式,把所有纬度的数据流拼接成一维数据流,然后传送到数据处理系统上;当数据处理系统接收到一维的数据流后,通过约定数据格式,把数据在还原成多维数据。
4.根据权利要求1所述的基于降维切分技术实现分布式高并发数据汇总的方法,其特征在于:所述数据处理系统接收到多个计算节点服务器的一维数据当接收到一个计算节点服务器的数据后,实时进行数据转换和二次汇总。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京三易思创科技有限公司,未经北京三易思创科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110935417.7/1.html,转载请声明来源钻瓜专利网。