[发明专利]基于终身学习的胸膜病变分割的知识蒸馏方法及装置在审
申请号: | 202110398753.2 | 申请日: | 2021-04-14 |
公开(公告)号: | CN112802023A | 公开(公告)日: | 2021-05-14 |
发明(设计)人: | 杜强;欧阳金鹏;郭雨晨;聂方兴 | 申请(专利权)人: | 北京小白世纪网络科技有限公司 |
主分类号: | G06T7/00 | 分类号: | G06T7/00;G06T7/11;G06N3/08 |
代理公司: | 北京八月瓜知识产权代理有限公司 11543 | 代理人: | 李斌 |
地址: | 100083 北京市海淀区建材*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 终身 学习 胸膜 病变 分割 知识 蒸馏 方法 装置 | ||
本发明公开了一种基于终身学习的胸膜病变分割的知识蒸馏方法及装置,包括:将已训练好的胸膜病变分病种多个原模型的softmax分布知识蒸馏后,得到新模型;对胸膜病变图片集中CT图像进行预处理;将预处理后的一张CT图像分别输入训练好多个原模型,得到多个分割结果堆砌起来与原CT图像标签计算第一损失值;预测图与原CT图像的标签计算损失后得到第二损失值;将第一损失值和第二损失值使用梯度下降算法进行加权求和;将梯度进行反向传播,更新新模型的权重参数;添加新病种的情况下,将训练好的一个新病种模型加入原模型,将新病种CT图像加入原有胸膜病变图片集,执行上述步骤,进行终身学习。本发明分割模型具有适应性强的优点。
技术领域
本发明涉及图像分割领域,尤其是涉及基于终身学习的胸膜病变分割的知识蒸馏方法及装置。
背景技术
随着近几年人工智能技术的飞速发展,如何将最先进的技术有效的应用于临床领域,获得了更多的关注。 数据、算法、计算力、专业性四大要素促进着医疗人工智能的发展。
深度学习使得很多计算机视觉任务的性能达到了前所未有的地步,复杂的模型会显著提高深度学习任务的学习性能,但是同时带来的是高额的储存空间和计算资源的消耗。为了解决这一问题,模型压缩的方法很大程度上缓解了计算资源和储存空间的不足问题,而知识蒸馏方法正是模型压缩下的具体方法。
首先,随着信息技术的进步,各种数据呈爆炸式增长。其次,传统机器学习算法对大数据环境下的应用问题很多已不再适用,这是因为传统的机器学习算法大多只是关注于小样本范围内的分类等工作,对大数据环境缺乏适应能力。在这样的背景下,终身机器学习应运而生。
发明内容
本发明的目的在于提供一种基于终身学习的胸膜病变分割的知识蒸馏方法及装置,旨在解决传统机器学习缺乏适应性的问题。
本发明提供一种基于终身学习的胸膜病变分割的知识蒸馏方法,包括:
S1、将已训练好的胸膜病变分病种的多个原模型的softmax分布知识蒸馏后,得到原模型知识,将所述原模型知识赋予要建立的模型的softmax分布,得到一个新模型;
S2、对胸膜病变图片集中的CT图像进行预处理;
S3、将预处理后的一张CT图像分别输入训练好的多个原模型,得到多个分割结果;
S4、将S3得到的多个分割结果堆砌起来与原CT图像的标签计算第一损失值;
S5、将S3的预处理后的一张CT图像输入到所述新模型得到预测图,将所述预测图与原CT图像的标签计算损失后得到第二损失值;
S6、将所述第一损失值和所述第二损失值使用梯度下降算法进行加权求和,得到用来更新新模型的梯度;
S7、将梯度进行反向传播,更新新模型的权重参数;
S8、在添加新病种的情况下,将训练好的一个新病种模型加入原模型,将新病种的CT图像加入原有胸膜病变图片集,执行步骤S1-S7,进行终身学习。
本发明还提供一种基于终身学习的胸膜病变分割的知识蒸馏装置,包括:
蒸馏模块,用于将已训练好的胸膜病变分病种的多个原模型的softmax分布知识蒸馏后,得到原模型知识,将所述原模型知识赋予要建立的模型的softmax分布,得到一个新模型;
预处理模块,用于对胸膜病变图片集中的CT图像进行预处理;
分割模块,用于将预处理后的一张CT图像分别输入训练好的多个原模型,得到多个分割结果;
第一损失值模块,用于将分割模块得到的多个分割结果堆砌起来与原CT图像的标签计算第一损失值;
第二损失值模块,用于将分割模块的预处理后的一张CT图像输入到所述新模型得到预测图,将所述预测图与原CT图像的标签计算损失后得到第二损失值;
梯度模块,用于将所述第一损失值和所述第二损失值使用梯度下降算法进行加权求和,得到用来更新新模型的梯度;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京小白世纪网络科技有限公司,未经北京小白世纪网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110398753.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:USB接口控制方法、USB控制电路及智能网联设备主板
- 下一篇:语义确定方法