[发明专利]基于集成Transformer的运动想象解码方法和解码系统在审
申请号: | 202310382137.7 | 申请日: | 2023-04-12 |
公开(公告)号: | CN116127364A | 公开(公告)日: | 2023-05-16 |
发明(设计)人: | 周良伟;魏家豪;李迎新;金晶;王薇 | 申请(专利权)人: | 上海术理智能科技有限公司 |
主分类号: | G06F18/24 | 分类号: | G06F18/24;G06N3/084;G06N3/0455 |
代理公司: | 上海领洋专利代理事务所(普通合伙) 31292 | 代理人: | 盛美兰 |
地址: | 201400 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 集成 transformer 运动 想象 解码 方法 系统 | ||
1.基于集成Transformer的运动想象解码方法,其特征在于,包括以下步骤:
规范化EEG脑电信号数据;
滑动时间窗口数据划分,以预定时间窗口参数切分通道数据,扩增数据量,其中所述预定时间窗口参数包括窗口大小数据和滑动步长参数;
Transformer模型自动特征提取;
全连接分类网络;
投票策略处理,包括依次进行模型训练和数据测试。
2.如权利要求1所述基于集成Transformer的运动想象解码方法,其特征在于,所述Transformer模型自动特征提取,包括:
将经过规范化和划分后的脑电数据 转换成时间序列,其中,为通道数,为采样点数,然后将每一列数据捆绑成一个一维向量作为输入Transformer的单个词向量,其中表示时间序列中的第个位置,,将数据转换为形式;
对输入的数据进行嵌入处理,使得数据的输入契合Transformer模型数据输入的需要;
对嵌入后的数据进行位置编码;
将编码后的数据输入至自注意力机制模块,以抽取得到与全序列相关的全局特征,进行特征抽取。
3.如权利要求2所述基于集成Transformer的运动想象解码方法,其特征在于,在所述滑动时间窗口数据划分,以预定时间窗口参数切分通道数据,扩增数据量,其中所述预定时间窗口参数包括窗口大小数据和滑动步长参数中,设定原始数据为,其中为通道数,为采样点数,设定窗口大小为0.8,步长为0.05,切分出五个时间片段数据,分别为:
,,,,。
4.如权利要求3所述基于集成Transformer的运动想象解码方法,其特征在于,在所述对输入的数据进行嵌入处理,使得数据的输入契合Transformer模型数据输入的需要中,通过对输入数据的嵌入处理,重新对输入的单个词向量进行编码,编码方式通过线性连接层实现,即。
5.如权利要求4所述基于集成Transformer的运动想象解码方法,其特征在于,在所述对嵌入后的数据进行位置编码中,所述位置编码使用cosine编码,cosine编码公式为:
,
其中为词向量维度,为时间点,为词向量每一个维度数据的位置。
6.如权利要求5所述基于集成Transformer的运动想象解码方法,其特征在于,在所述将编码后的数据输入至自注意力机制模块,以抽取得到与全序列相关的全局特征,进行特征抽取中,将输入数据做三维全连接网络得到Q、K、V三个矩阵,然后做全时间序列的点积计算相似度,从而抽取得到与全序列相关的全局特征,其中多头代表通过不同的全连接得到多个Q、K、V矩阵去做计算多重尺度下的相似度。
7.如权利要求6所述基于集成Transformer的运动想象解码方法,其特征在于,在所述将编码后的数据输入至自注意力机制模块,以抽取得到与全序列相关的全局特征,进行特征抽取中,在多头自注意力机制之后进行层归一化,进而对数据进行归一化。
8.如权利要求7所述基于集成Transformer的运动想象解码方法,其特征在于,在全连接分类网络中,依次包括以下步骤:
首先将Transformer网络中提取的特征进行平化操作;
设置整个分类网络形成两层隐藏层,隐藏层的大小由大到小平滑减小;
使用交叉熵损失函数,公式如下:
;
优化器使用的随机梯度下降(SGD)进行反向传播更新网络参数,学习率设置为0.0001。
9.如权利要求8所述基于集成Transformer的运动想象解码方法,其特征在于,在所述投票策略处理,包括依次进行模型训练和数据测试中,通过Transformer网络进行模型训练;
数据测试具体为:使用滑动时间窗进行数据切分,对切分后的数据进行数据预测,得到预测结果,统计不同类别预测结果的个数,其中个数多的分类结果为最终预测结果。
10.基于集成Transformer的运动想象解码系统,其特征在于,包括:
脑电数据规范单元,用于规范EEG脑电信号数据,使得通道数据的均值为0,且幅值处于预定范围内;
滑动时间窗口数据划分单元,用于以预定时间窗口参数切分所述通道数据,以扩增数据量,其中所述预定时间窗口参数包括窗口大小数据和滑动步长参数;
Transformer模型自动特征提取单元,用于进行权利要求1至9任一所述基于集成Transformer的运动想象解码方法的Transformer模型自动特征提取;
全连接分类网络单元;以及
投票策略处理单元,其中所述投票策略处理单元包括模型训练单元和数据测试单元。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海术理智能科技有限公司,未经上海术理智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310382137.7/1.html,转载请声明来源钻瓜专利网。
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法