[发明专利]基于无数据知识蒸馏联邦学习的多中心自闭症识别方法和介质在审
申请号: | 202310528589.1 | 申请日: | 2023-05-11 |
公开(公告)号: | CN116548969A | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 王建新;吴帆;沈成超 | 申请(专利权)人: | 中南大学 |
主分类号: | A61B5/16 | 分类号: | A61B5/16;A61B5/055;A61B5/00;G06T7/00;G06V10/774;G06V10/82;G06V10/764;H04L67/01;G06N3/098;G16H50/20 |
代理公司: | 长沙市融智专利事务所(普通合伙) 43114 | 代理人: | 熊开兰 |
地址: | 410083 湖南*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 数据 知识 蒸馏 联邦 学习 中心 自闭症 识别 方法 介质 | ||
1.一种基于无数据知识蒸馏联邦学习的多中心自闭症识别方法,其特征在于,每个成像中心对应一个客户端,所有客户端共享一个服务器端;各客户端利用训练好的本地自闭症识别模型,根据本地成像中心图像对应的特征向量,输出自闭症识别结果;其中各客户端训练好的本地自闭症识别模型,其学习训练方法为:一方面利用本地图像数据库学习训练自闭症识别模型,另一方面利用无数据知识蒸馏的方式,通过共享服务器端从其他客户端学习自闭症分类知识,迁移到本地的自闭症识别模型,同时保留本地自闭症识别模型中利用本地图像数据库学习到的个性知识。
2.根据权利要求1所述的多中心自闭症方法,其特征在于,成像中心的图像是指功能磁共振成像数据,输入至自闭症识别模型的特征向量,从功能磁共振成像数据中提取特征向量的方法为:
按照AAL图谱提取不同脑区ri,rj之间的皮尔逊相关系数PCC(ri,rj);
然后对皮尔逊相关系数PCC进行费雪变换,得到加强相关系数z:
将所有不同脑区的加强相关系数构成的矩阵,提取其上三角阵串联成一个向量,即为提取得到的特征向量FAAh。
3.根据权利要求1所述的多中心自闭症方法,其特征在于,所述利用无数据知识蒸馏的方式,通过共享服务端从其他客户端学习自闭症分类知识,迁移到本地的自闭症识别模型,同时保留本地自闭症识别模型中利用本地图像数据库学习到的个性知识,具体为:
步骤1,各客户端将当前迭代训练好的本地自闭症识别模型的参数和标签上传至服务器端;
步骤2,服务器端根据所有客户端上传的标签统计数据所得分布信息训练生成器模型,并使用生成器模型生成特征向量数据集,记为增强数据集;然后基于各客户端的识别模型参数对增强数据集进行自闭症识别,对所有识别得到的识别结果计算平均逻辑值;
步骤3,各客户端从服务器端下载平均逻辑值和生成器模型;
步骤4,各客户端在增强数据集上,根据服务器端所得的平均逻辑值和本地模型输出逻辑值进行知识蒸馏,根据蒸馏损失优化本地自闭症识别模型的参数;
步骤5,各客户端利用本地图像数据库对应的特征向量集,对步骤4优化得到的自闭症识别模型参数,进行再次优化,然后将模型参数上传至服务器端;
步骤6,服务器端将所有客户端上传的模型参数进行加权平均,更新服务器端的自闭症识别模型中除归一化层之外的参数;
步骤7,各客户端将服务器端的自闭症识别模型下载到本地,并更新本地自闭症识别模型中除归一化层之外的参数;
步骤8,更新服务器端模型的参数。
4.根据权利要求3所述的多中心自闭症识别方法,其特征在于,服务器端根据所有客户端上传的标签统计数据所得分布信息训练生成器模型的优化目标函数为:
其中,Gw(z|y)表示生成器模型,w是生成器模型的参数,z表示特征向量在潜在特征空间的增广表示,记为增强数据样本;y表示生成器模型的目标标签,J是生成器模型的优化目标;表示目标标签y的先验分布;表示数据样本标签y服从分布,表示增强数据样本z服从Gw(z|y)分布;l表示生成器模型输出增强数据样本z的损失;g是识别模型激活函数层的前一层的输出,σ()是激活函数;表示第k个客户端自闭症识别模型的参数;对于任意的目标标签y,该目标函数通过客户端上传的标签统计数据以及第k个客户端模型的预测器模型参数在增强数据样本上进行梯度下降完成计算;K表示成像中心的数量,即客户端或者客户端自闭症识别模型的数量,k为客户端的索引。
5.根据权利要求3所述的多中心自闭症识别方法,其特征在于,步骤4中各客户端进行知识蒸馏时的蒸馏损失优化目标为:
其中,σ是激活函数,AVGLOGITS是服务器端计算得到的平均逻辑值,θf是各客户端特征提取器f的模型参数,是生成器模型生成的增强数据集,x是增强数据集中的数据;θp是各客户端预测器h的模型参数,将潜在特征空间映射到标签空间;DKh表示KL散度计算。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中南大学,未经中南大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310528589.1/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置