[发明专利]一种脑电深度神经网络的模型压缩方法在审
申请号: | 202210061482.6 | 申请日: | 2022-01-19 |
公开(公告)号: | CN114580629A | 公开(公告)日: | 2022-06-03 |
发明(设计)人: | 冯立琛;张岳琦;朱樟明;刘术彬;文奎;曹文飞 | 申请(专利权)人: | 西安电子科技大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06K9/62;G06K9/00 |
代理公司: | 西安嘉思特知识产权代理事务所(普通合伙) 61230 | 代理人: | 王萌 |
地址: | 710000 陕*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 深度 神经网络 模型 压缩 方法 | ||
1.一种脑电深度神经网络的模型压缩方法,其特征在于,包括:
利用多电极通道的脑电信号数据对待训练神经网络进行训练,得到第一神经网络模型;
根据所述第一神经网络模型,选取至少一个目标电极通道;
利用所述目标电极通道的脑电信号数据对所述待训练神经网络模型进行训练,得到第二神经网络模型;
当所述第二神经网络模型的分类精度与所述第一神经网络模型的分类精度之差小于等于第一预设值时,利用预设的训练数据集生成所述第二神经网络模型中全连接层的输入向量;
将各输入向量划分为多段子向量后,根据所述子向量及所述第二神经网络模型建立查找表,并生成各子向量对应的二叉树;
利用预设的测试数据集,确定所述第一神经网络模型中全连接层的第一分类精度后,针对每个测试输入,基于所述二叉树和查找表确定所述第二神经网络模型中全连接层的输出结果,并确定所述第二神经网络模型中全连接层的第二分类精度;
当第一分类精度与第二分类精度的差值小于等于第二预设值时,将所述第二神经网络模型确定为压缩后的神经网络模型。
2.根据权利要求1所述的脑电深度神经网络的模型压缩方法,其特征在于,所述根据所述第一神经网络模型,选取至少一个目标电极通道的步骤,包括:
计算所述第一神经网络模型中,纵深式卷积层对应各电极通道权重的分值,并将所述分值按照由高至低的方式进行排序;
选取分值最高的预设数量个电极通道作为目标电极通道。
3.根据权利要求2所述的脑电深度神经网络的模型压缩方法,其特征在于,当所述第二神经网络模型的分类精度与所述第一神经网络模型的分类精度之差小于等于第一预设值时,利用预设的训练数据集生成所述第二神经网络模型中全连接层的输入向量的步骤之前,还包括:
检测第二神经网络模型的分类精度与第一神经网络模型的分类精度之差是否小于等于第一预设值;
若否,则返回所述选取分值最高的预设数量个电极通道作为目标电极通道的步骤;
若是,则执行所述利用预设的训练数据集生成所述第二神经网络模型中全连接层的输入向量的步骤。
4.根据权利要求1所述的脑电深度神经网络的模型压缩方法,其特征在于,所述将各输入向量划分为多段子向量后,根据所述子向量及所述第二神经网络模型建立查找表,并生成各子向量对应的二叉树的步骤,包括:
将各输入向量均分为N段子向量;
对每个所述子向量进行聚类,生成N×K个质心;
计算所述质心与其在第二神经网络模型中对应的全连接层权重的乘积,并将所述乘积存入查找表;
针对各子向量,生成包含K个子叶的二叉树。
5.根据权利要求4所述的脑电深度神经网络的模型压缩方法,其特征在于,所述利用预设的测试数据集,确定所述第一神经网络模型中全连接层的第一分类精度后,针对每个测试输入,基于所述二叉树和查找表确定所述第二神经网络模型中全连接层的输出结果,并确定所述第二神经网络模型中全连接层的第二分类精度的步骤,包括:
获取预设的测试数据集;
将每个测试输入输入至所述第一神经网络模型中的全连接层,根据输出结果,确定所述第一神经网络模型中全连接层的第一分类精度;
针对每个所述测试输入,根据所述二叉树和所述查找表查询得到N个中间结果,将所述N个中间结果累加后,根据累加结果确定所述第二神经网络模型中全连接层的第二分类精度。
6.根据权利要求5所述的脑电深度神经网络的模型压缩方法,其特征在于,所述当第一分类精度与第二分类精度的差值小于等于第二预设值时,将所述第二神经网络模型确定为压缩后的神经网络模型的步骤之前,还包括:
检测所述第一分类精度与所述第二分类精度之间的差值是否小于等于第二预设值;
若否,则在更新N、K的取值后,执行所述将各输入向量均分为N段子向量的步骤;
若是,则执行所述将所述第二神经网络模型确定为压缩后的神经网络模型的步骤。
7.根据权利要求1所述的脑电深度神经网络的模型压缩方法,其特征在于,所述待训练神经网络为脑电深度神经网络EEGNet。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安电子科技大学,未经西安电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210061482.6/1.html,转载请声明来源钻瓜专利网。