[发明专利]面向遗传代谢病多中心筛查的神经网络动态融合方法

权利要求书

1.一种面向遗传代谢病多中心筛查的神经网络动态融合方法，其特征在于，该方法是面向遗传代谢病多中心筛查的场景，除了多个筛查中心外，还需要配备两种类型的节点：任务节点、计算节点，其中任务节点负责多中心筛查任务的管理、分发、维护，用户直接与任务节点交互；每个筛查中心各需要配备一个计算节点，负责任务节点下发联合建模任务的计算，计算节点只与任务节点进行交互，用户无法直接访问计算节点；任务节点和计算节点的连接方式是任意主流的网络拓扑结构。

2.根据权利要求1所述的面向遗传代谢病多中心筛查的神经网络动态融合方法，其特征在于，当用户发起一个遗传代谢病多中心筛查任务T时，需要选定参与联合建模的m个筛查中心；设计神经网络模型的结构和超参数，以及模型训练配置，包括全局模型迭代次数E_g，局部模型迭代次数E_l；配置动态融合方法的参数：“参数探测比例”α，取值为[0，1]的浮点数；“停止更新比例”β，取值为(0，1]的浮点数；“参数高风险比例”γ，取值为(0，1]的浮点数；“无风险迭代次数”取值为[0，E_l]的整数；“缓存间隔次数”δ，取值为的整数。

3.根据权利要求2所述的面向遗传代谢病多中心筛查的神经网络动态融合方法，其特征在于，进行神经网络动态融合的过程如下：

1)任务节点根据用户设计的网络结构，构造任务T的神经网络模型f，并初始化全局神经网络f(w)，其中w为全局神经网络的参数；将所有计算节点初始化为低风险计算节点；

2)任务节点将任务T的神经网络模型f、超参数、训练配置、δ发送给m个筛查中心的计算节点C₁，…，C_m；

3)任务节点将任务T的全局神经网络参数w复制到C₁，…，C_m中，作为各个筛查中心的局部神经网络f(w₁)，…，f(w_m)，此时w＝w₁＝…＝w_m；

4)基于训练配置信息，C₁，…，C_m中的低风险计算节点分别使用各自筛查中心的本地数据D₁，…，D_m开始训练局部神经网络f(w₁)，...，f(w_m)，其中w₁，…，w_m为局部神经网络参数，此时w≠w₁≠…≠w_m；

5)当第i个筛查中心的局部神经网络f(w_i)的迭代次数j达到时，该筛查中心的计算节点C_i将此时的局部神经网络参数保存为最优参数当第i个筛查中心的局部神经网络f(w_i)的迭代次数j满足且时，该筛查中心的计算节点C_i保存此时的局部神经网络参数w_ij，保存此时的迭代次数E_i＝j；并暂停f(w_i)的迭代，开始向任务节点发送模型融合请求信号，此时计算节点C_i可以执行其它任务；

6)当任务节点收到所有计算节点的模型融合请求信号时，开始从全局神经网络f(w)的所有|w|个参数中随机挑选α·|w|个参数，记录下这些参数对应的索引号，然后将索引号发送给所有计算节点；

7)当计算节点C_i收到任务节点发送的参数索引号后，将任务T重新加入计算任务队列；

8)当计算节点C_i的任务队列执行到任务T时，C_i读取存储中的局部神经网络参数w_ij，按照参数索引号的顺序依次取出w_ij中对应的参数，组成一个列向量并发送给任务节点；

9)当任务节点收到所有计算节点的参数向量后，组成一个参数矩阵按行计算出参数矩阵的上四分位数Q₃、下四分位数Q₁、四分位距IQR＝Q₃-Q₁，以及高风险截断值R₁＝Q₃+1.5IQR和R₂＝Q₁-1.5IQR；

10)任务节点开始统计每个计算节点的风险比例，一个计算节点C_i的风险比例γ_i计算为：

其中和分别表示中大于截断值R₁和小于截断值R₂的参数个数；

11)如果一个计算节点C_i的风险比例γ_i大于或等于γ，任务节点把C_i标记为高风险，如果一个计算节点C_i的风险比例γ_i小于γ，任务节点把C_i标记为低风险；

12)如果已被标记为高风险的计算节点数量大于βm，任务节点将通知所有计算节点上传最优参数全局神经网络将按以下方式进行参数更新；

其中：

其中|D_i|和|D|表示第i个筛查中心和m个筛查中心的数据量；在任务节点更新完全局神经网络参数w后，跳到步骤16)；

13)如果已被标记为高风险的计算节点数量小于βm，任务节点将发送停止迭代的信号给所有高风险计算节点，发送继续迭代的信号给所有低风险节点；

14)以C_i为例，当高风险计算节点接收到停止迭代的信号后，删除本节点上存储的参数w_ij，释放任务T的资源用于其它任务的执行；

15)以C_i为例，当低风险计算节点接收到继续迭代的信号后，将本节点上的最优参数更新为参数w_ij，删除节点上存储的w_ij，然后继续局部神经网络f(w_i)的迭代，并跳到步骤4)；

16)当全局迭代次数达到E_g次时，停止神经网络动态融合流程，得到全局神经网络；否则，任务节点将所有计算节点标记为低风险，通知所有计算节点清空本次全局迭代产生的存储和临时变量，并跳到步骤3)。