[发明专利]一种基于ARM的深度学习轻量化肺结节分类方法有效
申请号: | 202110068409.7 | 申请日: | 2021-01-19 |
公开(公告)号: | CN112819043B | 公开(公告)日: | 2023-10-10 |
发明(设计)人: | 汤怀智;任涛;王莲莲;张皓东 | 申请(专利权)人: | 东北大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/774;G06V10/82;G06N3/04;G06N3/08 |
代理公司: | 沈阳东大知识产权代理有限公司 21109 | 代理人: | 李在川 |
地址: | 110819 辽宁*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 arm 深度 学习 量化 结节 分类 方法 | ||
本发明公开一种基于ARM的深度学习轻量化肺结节分类方法,该方法对获取的训练图像进行处理,并输入到全精度神经网络中进行训练。训练完成后使用Ternary Quantization算法对32‑bit的全精度权重进行三值化压缩,得到一个三值化精度神经网络。之后使用知识蒸馏,将全精度网络作为教师网络,三值化精度网络作为学生网络,对三值化精度中的Wp和Wn两个参数因子进行微调,微调完成后保存模型。最后将训练好的模型权重用于嵌入式设备中的肺结节分类程序中,实现肺结节的分类。本方法训练的模型和实现的分类程序可以准确的对肺结节进行分类,并且避免嵌入式设备性能不足和权重精度压缩后准确率下降的问题。
技术领域
本发明涉及肺结节图像分类技术领域,尤其涉及一种基于ARM的深度学习轻量化肺结节分类方法。
背景技术
肺癌是发病率和死亡率增长最快,对人群健康和生命威胁最大的恶性肿瘤之一,近50年来许多国家都报道肺癌的发病率和死亡率均明显增高。肺癌的病因至今尚不完全明确,因此早起诊断是肺癌预防与治疗的有效手段。通常情况下,肺癌的早期诊断依赖于准确检测出肺部CT影像中的肺结节并对其进行分类。肺结节是一种直径约3毫米的结构,分为良性或恶性。传统的方法通常由医生、医学专家按切片来分析肺结节图像,结节图像通常会拆分成很多切片,而且早期的结节图像特征不够明显,因此这种方法不仅费时费力,而且经常准确性比较低。
发明内容
针对上述现有技术的不足,本发明提供一种基于ARM的深度学习轻量化肺结节分类方法。
为解决上述技术问题,本发明所采取的技术方案是:一种基于ARM的深度学习轻量化肺结节分类方法,包括如下步骤:
步骤1:对LIDC带标签的图像数据集进行预处理,过程如下:
步骤1.1:将图像数据集中的结节体积限制在长宽高相同的图像大小中;
步骤1.2:以结节的质心为中心,采用双三次插值进行采样,从不同视角生成对个横截面;
步骤1.3:将每个横截面的大小调整为相同尺寸的三通道图像作为MobileNet V2网络的输入。
步骤2:将预处理后的图像数据集输入到MobileNet V2网络模型中进行全精度的训练,得到训练好的全精度神经网络;
步骤3:将训练好的全精度神经网络的权重采用Ternary Quantization算法进行三值化压缩,得到三值化神经网络;
所述将训练好的全精度神经网络的权重采用Ternary Quantization算法进行三值化压缩的过程如图2所示,包括如下步骤:
步骤3.1:将32-bit的权重归一化处理;
步骤3.2:设置阈值,如下:
其中,为全精度的权重的绝对值,设置参数t,通过上式计算得到神经网络中的第l层的阈值Δl;
步骤3.3:通过设置的阈值将全精度权重精简为三值权重,如下:
其中,为第l层神经网络的三值化权重值,Wlp和Wln为第l层神经网络的权重参数,在后面的微调过程中进行调整。
步骤4:将全精度神经网络作为教师网络,三值化神经网络作为学生网络,采用知识蒸馏算法再次训练,对三值化权重中的权重参数进行微调;
所述对三值化权重中的权重参数进行微调的梯度设置为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东北大学,未经东北大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110068409.7/2.html,转载请声明来源钻瓜专利网。