[发明专利]基于注意力增强改进U型网络的超声乳腺肿瘤自动分割方法有效
申请号: | 202011225593.3 | 申请日: | 2020-11-05 |
公开(公告)号: | CN112785598B | 公开(公告)日: | 2022-05-13 |
发明(设计)人: | 童莹;赵曼雪 | 申请(专利权)人: | 南京天智信科技有限公司 |
主分类号: | G06T7/11 | 分类号: | G06T7/11;G06N3/04;G06N3/08 |
代理公司: | 南京创略知识产权代理事务所(普通合伙) 32358 | 代理人: | 朱希敏 |
地址: | 210000 江苏省南京市*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 注意力 增强 改进 网络 超声 乳腺 肿瘤 自动 分割 方法 | ||
1.基于注意力增强改进U型网络的超声乳腺肿瘤自动分割方法,其特征在于:包括以下步骤,
步骤(A),构建用于提取出超声乳腺肿瘤目标特征的注意力增强改进U型网络结构;
步骤(B),建立注意力增强改进U型网络结构的混合注意力损失函数,用于获取更准确的网络损失值;
步骤(C),根据注意力增强改进U型网络结构以及混合注意力损失函数,通过粗细结合的网络分层训练方式,对网络参数进行微调,提高网络参数的精度,实现对乳腺超声图像病灶区域的快速定位和分割;
在步骤(A)中,所述注意力增强改进U型网络结构包括一个左侧编码路径、一个右侧解码路径和四个中间注意力门模块组成,每个模块的上数值表示通道数,下数值表示输出尺寸,将左侧支路从上到下分为四层,右侧支路从下到上也分为四层,构建用于提取出超声乳腺肿瘤细节特征的注意力增强改进U型网络结构,包括以下步骤,
(A1)建立左侧编码路径,该左侧编码路径包含左卷积运算模块、左修正线性单元运算模块、下采样模块、残差卷积运算模块和扩展残差卷积运算模块五个运算模块,所述左卷积运算模块用于获取更丰富的超声图像纹理特征,所述左卷积预算模块的卷积核大小均为7*7;每个所述左卷积运算后均需经过左修正线性单元运算模块激活函数,用于增强网络的非线性判别能力;用步长为2的最大池化对7*7卷积运算模块运算输出的通道特征进行下采样运算,保留主要特征同时降低网络参数,用于防止过拟合,然后由残差卷积模块和扩展残差卷积模块依次提取图像的深层语义特征,残差卷积模块采用两个3*3卷积运算模块级联构成,扩展残差卷积模块在跨层连接支路上又增加了一个1*1卷积运算模块,用于扩展特征通道数;
(A2)建立右侧扩展路径,该右侧扩展路径包含上采样运算模块、3*3运算模块、右修正线性单元运算模块、1*1卷积运算模块四个运算模块,上采样运算模块采用2*2反卷积,对超声乳腺肿瘤深层特征图进行上采样运算,用于扩大输出图像尺寸和降低特征通道数,使中间注意力门模块的两路输入数据参数一致,然后3*3卷积运算模块,用于后续的像素级分类预测,每个所述卷积运算模块后均需经过右修正线性单元运算模块激活函数,用于增强网络的非线性判别能力,最后,在右侧解码路径末端使用1*1卷积运算模块将32通道特征向量映射为各个像素的分类概率值,实现超声乳腺肿瘤分割;
(A3)建立四个中间注意力门模块,该四个注意力门模块从下到上分布,具体对编码路径的l层特征图xl和解码路径的l+1层特征图g分别进行通道数为Cint的1*1卷积运算模块卷积运算,所述编码路径的l层尺寸特征图xl的尺寸为Hx*Wx,所述解码路径的l+1层特征图g的尺寸为Hg*Wg,将得到的两个特征图相加,送入修正线性单元运算模块激活函数进行非线性运算,然后将修正线性单元运算模块输出特征图再进行通道数为1的1*1卷积运算模块卷积运算,经过Sigmoid激活函数,重采样为原尺寸Hx*Wx大小,得到权值矩阵α,最后将权值矩阵α与编码路径特征图xl相乘,得到最终的增强特征图
在步骤(B)中,建立注意力增强改进U型网络结构的混合注意力损失函数,用于获取更准确的网络损失值,包括以下步骤,
(B1)在传统损失函数基础上又融入四个注意力损失函数,用于获取更准确的网络损失值,注意力增强改进U型网络结构的混合注意力损失函数计算公式如下:
其中,λBCE(pre,mask)为传统损失函数,λ1BCE(α1,mask1)、λ2BCE(α2,mask2)、λ3BCE(α3,mask3)和λ4BCE(α4,mask4)分别为四个注意力损失函数,其中,α1、α2、α3、α4是四个注意力门的输出权值,mask1、mask2、mask3、mask4则为标准模板mask的0.125倍、0.25倍、0.5倍和1倍的缩放图,λ、λ1、λ2、λ3、λ4为损失系数,取λ1+λ2+λ3+λ4=1/2,λ=1/2,式(1)中BCE(·)是二分类交叉熵损失函数的缩写,具体表示为其中,y和分别表示为预测值和真实值;
(B2)进一步提高混合注意力损失函数精度,加速网络收敛,引入了特征图纹理一致性指标Uk,用于衡量四个注意力门损失值在总体损失值中所占比重,计算公式如下:
其中,Uk(k=1,2,3,4)分别表示注意力增强U型网络模型从下到上四个注意力门输出特征图的纹理一致性,Uk越大,特征图纹理越平滑,反之,越粗糙;pk(zi)(i=0,1,2,...,L-1)为特征图对应的直方图,L为可区分的灰度级数目;
在步骤(B)中,λ1、λ2、λ3、λ4为四个中间注意力门模块的损失函数系数,通过公式(3)-公式(6)计算得到,
其中,Uk(k=1,2,3,4)分别表示注意力增强U型网络结构从下到上四个注意力门输出特征图的纹理一致性。
2.根据权利要求1所述的基于注意力增强改进U型网络的超声乳腺肿瘤自动分割方法,其特征在于:步骤(C),根据注意力增强改进U型网络结构以及混合注意力损失函数,通过粗细结合的网络分层训练方式,对网络参数进行微调,提高网络参数的精度,实现对乳腺超声图像病灶区域的快速定位和分割,先用总体损失函数训练整体网络,使网络损失值下降且趋于稳定,网络参数达到局部最优;再用注意力损失函数和传统损失函数,依次交替训练主干网络和中间注意力门模块,对网络参数进行微调,具体实现步骤如下,
(C1)在训练集上训练n(n0)个epochs,前m(0mn)个epochs训练中,学习率为0.0001,使用公式(1)的总体损失函数对整个网络结构进行参数更新,使网络损失值下降趋于稳定,并得到局部最优网络权值,所述epochs为训练次数;
(C2)在m+1~n个epochs训练中,将学习率调整到0.00001,并依次使用注意力损失函数公式(7)和传统损失函数公式(8)进行网络参数更新:
LossA=λ1BCE(α1,mask1)+λ2BCE(α2,mask2)+λ3BCE(α3,mask3)+λ4BCE(α4,mask4) (7)
LossP=λBCE(pre,mask) (8);
(C3)第m+1个epoch训练时,固定主干网络中左侧编码路径以及右侧解码路径中的权值参数,仅使用注意力损失函数(7)迭代更新网络中间注意力门模块的参数;第m+2个epoch训练时,固定网络中间注意力门模块的参数,仅使用传统损失函数公式(8)迭代更新主干网络左侧编码路径以及右侧解码路径的权值参数,依此类推,在得到的局部最优网络权值基础上进行微调,不断提高网络参数的精度,得到全局最优网络权值,从而实现超声乳腺肿瘤分割。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京天智信科技有限公司,未经南京天智信科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011225593.3/1.html,转载请声明来源钻瓜专利网。