[发明专利]基于集成Transformer的运动想象解码方法和解码系统在审

专利信息
申请号: 202310382137.7 申请日: 2023-04-12
公开(公告)号: CN116127364A 公开(公告)日: 2023-05-16
发明(设计)人: 周良伟;魏家豪;李迎新;金晶;王薇 申请(专利权)人: 上海术理智能科技有限公司
主分类号: G06F18/24 分类号: G06F18/24;G06N3/084;G06N3/0455
代理公司: 上海领洋专利代理事务所(普通合伙) 31292 代理人: 盛美兰
地址: 201400 上海市*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 集成 transformer 运动 想象 解码 方法 系统
【权利要求书】:

1.基于集成Transformer的运动想象解码方法,其特征在于,包括以下步骤:

规范化EEG脑电信号数据;

滑动时间窗口数据划分,以预定时间窗口参数切分通道数据,扩增数据量,其中所述预定时间窗口参数包括窗口大小数据和滑动步长参数;

Transformer模型自动特征提取;

全连接分类网络;

投票策略处理,包括依次进行模型训练和数据测试。

2.如权利要求1所述基于集成Transformer的运动想象解码方法,其特征在于,所述Transformer模型自动特征提取,包括:

将经过规范化和划分后的脑电数据 转换成时间序列,其中,为通道数,为采样点数,然后将每一列数据捆绑成一个一维向量作为输入Transformer的单个词向量,其中表示时间序列中的第个位置,,将数据转换为形式;

对输入的数据进行嵌入处理,使得数据的输入契合Transformer模型数据输入的需要;

对嵌入后的数据进行位置编码;

将编码后的数据输入至自注意力机制模块,以抽取得到与全序列相关的全局特征,进行特征抽取。

3.如权利要求2所述基于集成Transformer的运动想象解码方法,其特征在于,在所述滑动时间窗口数据划分,以预定时间窗口参数切分通道数据,扩增数据量,其中所述预定时间窗口参数包括窗口大小数据和滑动步长参数中,设定原始数据为,其中为通道数,为采样点数,设定窗口大小为0.8,步长为0.05,切分出五个时间片段数据,分别为:

,,,,。

4.如权利要求3所述基于集成Transformer的运动想象解码方法,其特征在于,在所述对输入的数据进行嵌入处理,使得数据的输入契合Transformer模型数据输入的需要中,通过对输入数据的嵌入处理,重新对输入的单个词向量进行编码,编码方式通过线性连接层实现,即。

5.如权利要求4所述基于集成Transformer的运动想象解码方法,其特征在于,在所述对嵌入后的数据进行位置编码中,所述位置编码使用cosine编码,cosine编码公式为:

其中为词向量维度,为时间点,为词向量每一个维度数据的位置。

6.如权利要求5所述基于集成Transformer的运动想象解码方法,其特征在于,在所述将编码后的数据输入至自注意力机制模块,以抽取得到与全序列相关的全局特征,进行特征抽取中,将输入数据做三维全连接网络得到Q、K、V三个矩阵,然后做全时间序列的点积计算相似度,从而抽取得到与全序列相关的全局特征,其中多头代表通过不同的全连接得到多个Q、K、V矩阵去做计算多重尺度下的相似度。

7.如权利要求6所述基于集成Transformer的运动想象解码方法,其特征在于,在所述将编码后的数据输入至自注意力机制模块,以抽取得到与全序列相关的全局特征,进行特征抽取中,在多头自注意力机制之后进行层归一化,进而对数据进行归一化。

8.如权利要求7所述基于集成Transformer的运动想象解码方法,其特征在于,在全连接分类网络中,依次包括以下步骤:

首先将Transformer网络中提取的特征进行平化操作;

设置整个分类网络形成两层隐藏层,隐藏层的大小由大到小平滑减小;

使用交叉熵损失函数,公式如下:

优化器使用的随机梯度下降(SGD)进行反向传播更新网络参数,学习率设置为0.0001。

9.如权利要求8所述基于集成Transformer的运动想象解码方法,其特征在于,在所述投票策略处理,包括依次进行模型训练和数据测试中,通过Transformer网络进行模型训练;

数据测试具体为:使用滑动时间窗进行数据切分,对切分后的数据进行数据预测,得到预测结果,统计不同类别预测结果的个数,其中个数多的分类结果为最终预测结果。

10.基于集成Transformer的运动想象解码系统,其特征在于,包括:

脑电数据规范单元,用于规范EEG脑电信号数据,使得通道数据的均值为0,且幅值处于预定范围内;

滑动时间窗口数据划分单元,用于以预定时间窗口参数切分所述通道数据,以扩增数据量,其中所述预定时间窗口参数包括窗口大小数据和滑动步长参数;

Transformer模型自动特征提取单元,用于进行权利要求1至9任一所述基于集成Transformer的运动想象解码方法的Transformer模型自动特征提取;

全连接分类网络单元;以及

投票策略处理单元,其中所述投票策略处理单元包括模型训练单元和数据测试单元。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海术理智能科技有限公司,未经上海术理智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202310382137.7/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top