[发明专利]分布式设备使用机器学习模型聚合系统

权利要求书

1.一种分布式设备使用机器学习模型聚合系统，其特征在于，包括模型存储平台、模型分配平台、多个模型使用设备、多个中间处理设备和分析处理平台，其中：

模型存储平台，用于存储多个机器学习模型；

模型分配平台，用于根据模型使用设备发送来的模型使用请求，从所述模型存储平台获取与所述模型使用请求匹配的机器学习模型，并将所述匹配的机器学习模型发送给所述模型使用设备；

多个模型使用设备，分散布置于不同的地址位置处，每个模型使用设备用于向所述模型分配平台发送模型使用请求，获取所述模型分配平台返回的机器学习模型，对所述机器学习模型进行使用，生成对所述机器学习模型的模型使用信息，将所述模型使用信息根据使用时间分成多个模型使用信息段，将每个模型使用信息段发送给该模型使用信息段相应的中间处理设备；

多个中间处理设备，分散布置于不同的地址位置处，每个中间处理设备用于获取相应的模型使用设备发送来的模型使用信息段进行存储；将模型使用信息段对应的预设信息发送给所述分析处理平台；

所述分析处理平台，用于对所述中间处理设备发送来的预设信息进行处理；

其中，后台管理平台为每个模型使用设备配置相应的中间处理设备，包括：

确定第e个模型使用设备所处的地理区域；

确定所述地理区域内的所有中间处理设备，设所述所有中间处理设备的数量为p，每个中间处理设备的供模型使用设备使用的设备性能参数种类包括t类，则第i个中间处理设备的设备性能参数向量记为V_i＝(v_i1,v_i2,...,v_it)，其中，i＝1,2,3,…,p；v_ij表示第i个中间处理设备第j个设备性能参数对应的参数值g_ij对应的归一化值；j＝1,2,3,…,t；其中，

将所述第e个模型使用设备对中间处理设备的设备性能需求参数向量记为H_e＝(h_e1,h_e2,...,h_et)，其中，h_ej表示第e个模型使用设备对所述所有中间处理设备的第j个设备性能参数的占用量，其中，f_ej表示第e个模型使用设备对第j个设备性能参数的需求量；

按照如下公式(1)计算将第e个模型使用设备配置给第i个中间处理设备时对应的配置评价指数ω_ei：

按照上述公式(1)计算出将第e个模型使用设备配置给每个中间处理设备时分别对应的配置评价指数，获得p个配置评价指数；

对p个配置评价指数按照从大到小的顺序排序，获得配置评价指数序列；确定所述配置评价指数序列中前m位的配置评价指数；将第e个模型使用设备配置给前m位的配置评价指数所对应的中间处理设备，m等于或大于2；

其中，所述后台管理平台按照如下公式(2)计算第e个模型使用设备对应的优先级评价指数:

其中，f_j-max表示目标中间处理设备所对应的所有模型使用设备各自对应的对第j个设备性能参数的需求量中，最大的需求量的数值；目标中间处理设备为第e个模型使用设备所配置的任何一个中间处理设备；

λ_ea表示第e个模型使用设备使用第a个机器学习模型的活跃度，λ_ea的数值等于：第e个模型使用设备使用第a个机器学习模型时，第a个机器学习模型对第e个模型使用设备的CPU占用率超过预设占用率阈值时的使用总时长，除以所述e个模型使用设备使用第a个机器学习模型的总时长；u_a表示第a个机器学习模型对应的重要性因子，为预设值，其值大于0且小于1；a＝1，2，3,…,A；其中，A为模型存储平台中存储的所有机器学习模型的总数目；

所述后台管理平台将所述目标中间处理设备所对应的所有模型使用设备各自对应的优先级评价指数，按照从大到小的顺序排序，获得模型使用设备序列；

所述后台管理平台将所述模型使用设备序列发送给所述目标中间处理设备；

所述目标中间处理设备按照所述模型使用设备序列对应的顺序，处理所述模型使用设备序列中的模型使用设备发送来的模型使用信息段；

所述处理所述模型使用设备序列中的模型使用设备发送来的模型使用信息段，包括：存储所述模型使用设备序列中的模型使用设备发送来的模型使用信息段，或者，获取所述模型使用设备序列中的模型使用设备发送来的模型使用信息段对应的预设信息。