[发明专利]一种用于睡眠分期的模型训练方法及装置在审
申请号: | 202010963626.8 | 申请日: | 2020-09-14 |
公开(公告)号: | CN112149541A | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 张沕琳;廖一桥;谢翔;王志华 | 申请(专利权)人: | 清华大学 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62;G06N3/04;G06N3/00 |
代理公司: | 北京辰权知识产权代理有限公司 11619 | 代理人: | 刘广达 |
地址: | 100084*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 用于 睡眠 分期 模型 训练 方法 装置 | ||
本发明公开了一种用于睡眠分期的模型训练方法,方法包括:构建用于睡眠分期的单通道输入竞争学生模型和多通道输入教师模型;将多通道信号输入教师模型,并根据教师模型的输出获得教师模型损失,将单通道信号输入所述竞争学生模型,并根据竞争学生模型的输出获得竞争学生模型损失;根据教师模型中隐含层的输出和竞争学生模型中隐含层的输出确定知识迁移损失;根据竞争学生模型损失、教师模型损失和知识迁移损失对教师模型和竞争学生模型进行优化,直至满足停止条件;根据已训练教师模型和已训练竞争学生模型构建用于睡眠分期的单通道输入合作学生模型,并基于知识蒸馏技术对合作学生模型进行训练,最终得到精度得到改善的教师模型和合作学生模型。
技术领域
本发明涉及睡眠分期技术领域,具体涉及一种用于睡眠分期的模型训练方法及装置。
背景技术
基于多通道的PSG(多导睡眠图)的应用领域之一便是睡眠分期,PSG信号包括脑电信号(EEG)、眼电信号(EOG)、肌电信号(EMG)以及心电信号(ECG)等。
目前,常用的睡眠分期模型有基于多通道输入的序列对序列的SeqSleepNet和基于单通道输入的包括CNN和Bi-LSTM(双向上短期记忆网络)的DeepSleepNet。
然而,SeqSleepNet需要输入多个通道的信号,限制了单通道的应用场景,因为实际测试时为了患者使用的方便性,一般使用的是单通道可穿戴脑电信号采集设备;DeepSleepNet只选择一个通道的信号输入,其他通道的信号均被丢弃,牺牲了模型的准确度。
发明内容
本发明的目的是针对上述现有技术的不足提出的一种用于睡眠分期的模型训练方法及装置,该目的是通过以下技术方案实现的。
本发明的第一方面提出了一种用于睡眠分期的模型训练方法,所述方法包括:
构建用于睡眠分期的单通道输入竞争学生模型和多通道输入教师模型;
将多通道信号输入所述教师模型,并根据所述教师模型的输出获得教师模型损失,将所述多通道信号中的预设通道信号输入所述竞争学生模型,并根据所述竞争学生模型的输出获得竞争学生模型损失;根据所述教师模型中隐含层的输出和所述竞争学生模型中隐含层的输出确定知识迁移损失;根据所述竞争学生模型损失、所述教师模型损失和所述知识迁移损失对所述教师模型和所述竞争学生模型进行优化,直至满足停止条件;
根据已训练教师模型和已训练竞争学生模型构建用于睡眠分期的单通道输入合作学生模型,并基于知识蒸馏技术对所述合作学生模型进行训练,以将已训练教师模型的知识迁移到所述合作学生模型。
本发明的第二方面提出了一种用于睡眠分期的模型训练装置,所述装置包括:
第一构建模块,用于构建用于睡眠分期的单通道输入竞争学生模型和多通道输入教师模型;
第一训练模块,用于将多通道信号输入所述教师模型,并根据所述教师模型的输出获得教师模型损失,将所述多通道信号中的预设通道信号输入所述竞争学生模型,并根据所述竞争学生模型的输出获得竞争学生模型损失;根据所述教师模型中隐含层的输出和所述竞争学生模型中隐含层的输出确定知识迁移损失;根据所述竞争学生模型损失、所述教师模型损失和所述知识迁移损失对所述教师模型和所述竞争学生模型进行优化,直至满足停止条件;
第二构建模块,用于根据已训练教师模型和已训练竞争学生模型构建用于睡眠分期的单通道输入合作学生模型;
第二训练模块,用于基于知识蒸馏技术对所述合作学生模型进行训练,以将已训练教师模型的知识迁移到所述合作学生模型。
基于上述第一方面所述的技术方案具有如下有益效果:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010963626.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种颗粒物料预熔式挤出机
- 下一篇:一种基于位运算的软件防抖方法和装置