[发明专利]一种基于注意力机制和迁移学习的COVID-19深度学习诊断系统在审
申请号: | 202110900084.4 | 申请日: | 2021-08-06 |
公开(公告)号: | CN113628297A | 公开(公告)日: | 2021-11-09 |
发明(设计)人: | 魏东旭;阎丽华 | 申请(专利权)人: | 青岛市妇女儿童医院 |
主分类号: | G06T11/00 | 分类号: | G06T11/00;G16H30/20;G16H30/40;G16H50/20;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 青岛华慧泽专利代理事务所(普通合伙) 37247 | 代理人: | 王振一 |
地址: | 266011 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 注意力 机制 迁移 学习 covid 19 深度 诊断 系统 | ||
1.一种基于注意力机制和迁移学习的COVID-19深度学习诊断系统,其特征在于,包括数据收集与存储模块,通过多渠道收集肺CT样本,构建动态数据库用于存储和动态更新肺CT样本;
数据预处理模块,对所有肺CT样本进行标准化操作,并建立缓冲数据库,将预处理后的样本导入缓冲数据库作为神经网络的输入数据源;
深度学习神经网络模型构造模块,通过引入迁移学习技术,并将迁移学习与预训练的深度卷积神经网络相结合,最后在预训练网络的基础上再引入注意力机制;
模型训练与验证,按比例将CT图像样本随机分配到训练数据集和测试数据集中,训练数据集中的样本负责模型的训练,测试数据集中的样本负责模型的验证;
模型诊断预测,将独立于训练集和测试集中的第三方CT图像输入到保存好的模型中,模型即可输出对该CT样本的诊断结果。
2.根据权利要求1所述的基于注意力机制和迁移学习的COVID-19深度学习诊断系统,其特征在于,所述数据预处理模块的运行步骤包括:
(1)将CT样本像素重组,即提取不同数据源CT样本图像像素,转换成像素矩阵,随后对样本像素矩阵规格进行统一,像素规格统一后,对像素大小进行归一化操作,最后再将处理后的像素矩阵转化为CT图像样本;
(2)对CT样本进行初步筛选,即将上述处理后的CT样本分为两类,一类是COVID-19阳性,一类是COVID-19阴性,对COVID-19阳性样本建立“Positive”标签,对COVID-19阴性样本建立“Normal”标签;
(3)对CT样本扩展,即应用数据增强技术对样本进行扩展来生成更多样本;
(4)建立缓冲数据库,即将上述预处理后的样本导入缓冲数据库,作为神经网络的输入数据源。
3.根据权利要求2所述的基于注意力机制和迁移学习的COVID-19深度学习诊断系统,其特征在于,所述深度学习神经网络模型构造模块的运行步骤包括:
(1)引入迁移学习技术,将迁移学习与预训练的深度卷积神经网络相结合,通过在网络中使用微调策略对重构的迁移网络进行微调以克服不同数据域之间的差异性;
(2)在上述预训练网络的基础上引入注意力机制,可以自适应地选择关注图片中的关键区域特征信息而忽略其他不重要的信息,从而实现对图片关键区域的自动聚焦,注意力机制基于输入特征的空间关系进行建模,生成与之对应的空间注意力权重系数,使得网络更加关注权重系数较大的区域即局部关键特征。
4.根据权利要求3所述的基于注意力机制和迁移学习的COVID-19深度学习诊断系统,其特征在于,所述迁移学习技术采用VGG-16网络作为预训练网络,该网络的主要技术特征包括:卷积层均采用相同的卷积核;池化层均采用相同的池化尺寸;模型由若干卷积层和池化层以反复串联堆叠的方式构成,在形成较深的网络结构的同时,拥有更少的参数量和更多的非线性变换程式。
5.根据权利要求2所述的基于注意力机制和迁移学习的COVID-19深度学习诊断系统,其特征在于,所述步骤(3)中,数据增强技术的具体操作步骤为:
(1)首先对每幅图像样本在±15°的范围内进行随机旋转;
(2)将随机旋转变换后的所有样本以0.5的概率进行随机水平翻转;
(3)将随机水平翻转后的所有样本以0.5的概率进行随机垂直翻转;
(4)利用直方图修正技术增强每一个图像样本的对比度;
(5)统计此时两类样本的数量,若两类样本数量差距悬殊,则进行样本平衡处理,使两类样本的数量达到平衡,若两类样本数量差距较小,则无需进行样本平衡处理。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于青岛市妇女儿童医院,未经青岛市妇女儿童医院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110900084.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种锂铝硅酸透明微晶玻璃及其制备方法
- 下一篇:一种公交车用防急刹吊环