[发明专利]任务驱动的大型移动设备移动数据中心资源配置预测方法在审
申请号: | 202111038705.9 | 申请日: | 2021-09-06 |
公开(公告)号: | CN115774607A | 公开(公告)日: | 2023-03-10 |
发明(设计)人: | 丁有伟 | 申请(专利权)人: | 南京中医药大学 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 南京经纬专利商标代理有限公司 32200 | 代理人: | 陆志斌 |
地址: | 210023 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 任务 驱动 大型 移动 设备 数据中心 资源配置 预测 方法 | ||
1.一种任务驱动的大型移动设备移动数据中心资源配置预测方法,其特征在于,该方法具体包括如下步骤:
(1)数据存储和处理方法设定:根据移动设备的物理结构和实际用途因素,确定移动数据中心的物理结构、数据存储相关的方法与参数以及数据处理相关的方法与参数;
(2)数据存储资源配置预测:根据数据存储任务的相关方法和参数,对数据存储资源的配置进行预测;所述的数据存储任务的相关方法和参数包括数据采集规模、产生规模、副本策略以及存储资源的空置率;
(3)数据处理资源配置预测:根据数据处理任务的相关方法和参数,对数据处理资源的配置进行预测;所述的数据处理任务的相关方法和参数包括任务类型、任务数量、数据需求、分配策略、任务时延以及处理资源的空置率;
(4)迭代更新:收集移动设备和移动数据中心的物理特征、数据存储和处理任务相关参数、资源配置预测结果,以及实际使用过程中资源配置对任务的满足情况,形成资源配置库,在使用过程中根据设备和任务的变化进行调整更新,并可使用资源配置库进行资源配置推荐。
2.根据权利要求1所述的一种任务驱动的大型移动设备移动数据中心资源配置预测方法,其特征在于,所述步骤(2)的具体步骤如下:
①根据每个服务器在物理区域内所有传感器单位时间内产生的数据量以及服务器本身计算产生的中间数据量,则每个服务器单位时间内需存储的原始数据量;
②根据移动数据中心的副本存储策略计算每个服务器上单位时间内应存储的副本数据量;
③根据服务器存储空间空置率、数据保存时间计算每个服务器应配置的存储容量,再根据每个存储模块的平均存储容量计算每个服务器需要配置的存储模块数量。
3.根据权利要求1所述的一种任务驱动的大型移动设备移动数据中心资源配置预测方法,其特征在于,所述步骤(3)的具体步骤如下:
①将移动设备上数据处理任务划分为周期性执行的常规触发型任务和实时执行的决策分析型任务两类,统计单位时间内移动设备上需要处理的常规触发型任务和决策分析型任务数量,每个任务待处理的数据量和计算量以及每个任务待处理数据的存储位置;
②根据任务分配策略将任务分配到每个服务器上,计算每个任务待处理数据传输到任务处理服务器的数据传输时间;
③计算单位时间内每个服务器需要处理的任务的计算量之和,以及每个任务待处理数据传输完成的最大传输时间;
④根据移动设备允许的任务响应时间阈值和计算资源空置率,计算每个服务器需要提供的计算量,再根据每个数据处理模块的计算能力,则每个服务器应配置的数据处理模块数量。
4.根据权利要求1所述的一种任务驱动的大型移动设备移动数据中心资源配置预测方法,其特征在于,所述步骤(4)的具体步骤如下:
①建立资源配置库:收集移动设备的特征用途、移动数据中心的物理结构、数据存储和处理任务相关参数、资源配置预测结果,以及移动设备实际使用过程中资源配置对数据存储和处理任务的满足情况,形成移动数据中心的资源配置库;
②存储资源配置更新:若移动设备实际使用中调整传感器数据采集频率、增加数据采集设备、更改数据副本策略、更改数据保存时限,则根据步骤(2)对存储资源进行调整,调整后的结果保存到资源配置库中;
③处理资源配置更新:若移动设备实际使用中更改任务处理需求、增加任务类型或任务数量,则根据步骤(3)对处理资源进行调整,调整后的结果保存到资源配置库中;
④资源配置推荐:在进行新的大型移动设备移动数据中心资源配置预测时,在对预测精度要求不严格的情况下可以查询资源配置库,根据移动设备和移动数据中心的物理特征与任务的需求推荐相似的资源配置,具体的相似度度量方法根据实际应用确定。
5.根据权利要求1所述的一种任务驱动的大型移动设备移动数据中心资源配置预测方法,其特征在于,该方法具体包括如下步骤:
(1)、数据存储和处理方法设定
根据移动设备的物理结构和实际用途,确定移动数据中心的数据存储和处理方法,包括服务器的数量和位置、传感器到服务器的数据传输、服务器的数据副本存储策略、数据处理任务分配策略、数据处理任务类型和数量等。
(2)、数据存储资源配置预测:根据每个服务器所在物理区域内传感器产生的数据量、副本存储策略以及日常任务类型确定其数据存储资源配置,具体计算过程如下:
①计算原始数据量:若服务器Pi所在物理区域内的所有传感器单位时间内产生的数据量为Sdatai,服务器Pi单位时间内计算产生的中间数据量为Cdatai,则每个服务器Pi单位时间内需存储的原始数据量Rdatai=Sdatai+Cdatai,其中1≤i≤m,m为移动设备配置的服务器数量;
②计算副本数据量:若服务器Pi上数据的副本存储向量为表示服务器Pj存储了Pi上数据的副本,副本数据量为表示Pj未存储Pi上数据的副本,表示服务器Pi上存储了其自身的原始数据,则每个服务器Pi上实际存储的数据量其中1≤i,j≤m,m为移动设备配置的服务器数量,副本存储向量的值由移动数据中心的副本存储策略决定;
③数据存储资源配置:若服务器存储空间空置率为α,数据保存时间为T个单位时间,则每个服务器Pi的存储容量为Scapi=T×datai/(1-α);若每个存储模块的平均存储容量为D,则每个服务器Pi需要配置的存储模块数量为其中1≤i≤m,m为移动设备配置的服务器数量,参数α和T的值根据移动设备的具体用途设定;
(3)数据处理资源配置预测:根据移动设备的数据处理任务、数据存储和任务执行机制等因素确定数据和醋栗资源配置,具体计算如下:
①任务统计:移动设备上绝大部分数据处理任务为传感器数据分析类任务,包括周期性执行的常规触发型任务和实时执行的决策分析型任务,若单位时间内移动设备上需要处理的常规触发型任务和决策分析型任务分别为JP={JP1,JP2,L,JPq}和JR={JR1,JR2,L,JRh},其中q和h分别为常规触发型任务数量和决策分析型任务数量;假设每个任务的计算量与所处理的数据量成正比,其中和分别为常规触发任务JPi和决策分析任务JRj的计算复杂度系数,和分别为任务JPi和JRj待处理的数据量,1≤i≤q,1≤j≤h;任务JPi和JRj待处理的原始数据中来源于服务器Pj的部分分别为和则其中1≤k≤m,
②任务分配:为减少任务迁移带来的额外开销,提高任务响应速度,每个任务通常只在一个服务器上执行,且任务分配到数据传输时间最小的服务器上执行;若每个常规触发任务JPi或决策分析任务JRj在服务器Pk上执行,则记为Loc(JPi)=Pk,或者Loc(JRj)=Pk;服务器Pk处理任务JPi或JRj的等待时间和分别为将待处理数据量或传输到服务器Pk所需时间,即和其中τ为服务器之间单位长度高速总线上传输单位数据量所需时间,ds,k表示两个服务器Ps和Pk之间的高速总线长度,若s=k表示服务器Ps自身的距离,即ds,s=0,1≤k,s≤m;
③计算量统计:单位时间内每个服务器Pk总的计算量Z(Pk)为分配到其上执行的所有任务的计算量之和,即由于数据传输之间存在总线抢占现象,每个服务器Ps向服务器Pk传输任务待处理数据的时间ts,k为各项任务在Ps上待处理数据传送到Pk的时间总和,即其中1≤k,s≤m;服务器Pk执行任务前的最大等待时间为即其他服务器向Pk传送任务待处理数据的最大时间;
④数据处理资源配置:移动设备允许的任务响应时间阈值为Δt,计算资源的空置率为β,则每个服务器Pk至少需要提供的计算量若每个数据处理模块可提供的计算量为C,则每个服务器Pk应配置的数据处理模块数量为
(4)、迭代更新
①建立资源配置库:收集移动设备的特征用途、移动数据中心的物理结构、数据存储和处理任务相关参数、资源配置预测结果,以及移动设备实际使用过程中资源配置对数据存储和处理任务的满足情况,形成移动数据中心的资源配置库;
②存储资源配置更新:若移动设备实际使用中调整传感器数据采集频率、增加数据采集设备、更改数据副本策略、更改数据保存时限,则根据步骤(2)对存储资源进行调整,调整后的结果保存到资源配置库中;
③处理资源配置更新:若移动设备实际使用中更改任务处理需求、增加任务类型或任务数量,则根据步骤(3)对处理资源进行调整,调整后的结果保存到资源配置库中;
④资源配置推荐:在进行新的大型移动设备移动数据中心资源配置预测时,在对预测精度要求不严格的情况下可以查询资源配置库,根据移动设备和移动数据中心的物理特征与任务的需求推荐相似的资源配置,具体的相似度度量方法根据实际应用确定。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京中医药大学,未经南京中医药大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111038705.9/1.html,转载请声明来源钻瓜专利网。