[发明专利]一种多尺度注意力的深度非线性因子化方法

说明书

本发明公开了一种多尺度注意力的深度非线性因子化方法，包括如下步骤：步骤1：多模态脑成像大队列特征构建；步骤2：脑成像数据的多尺度注意力特征提取；步骤3：多模态脑成像数据深度非线性因子化；步骤4：因子的前向拟合和反向构造与求精；步骤5：反向更新非线性神经网络参数。本发明融合通道注意力模块和空间注意力模块对输入原始数据进行筛选，对提取的众多特征进行自动注意力加权，从而强调重要特征并压缩不重要特征，并将该注意力机制融入后续的非线性因子化分析方法中，以期构建基于注意力的深度非线性因子化特征，实现对高非线性脑成像数据进行精确建模。

技术领域

本发明涉及人工智能技术领域，特别涉及一种多尺度注意力的深度非线性因子化方法。

背景技术

多模态脑成像数据(EEG、fMRI和MRI)固有的存在多模态和非线性属性，多模态脑成像数据特征的自动提取与聚焦(增强关键特征)成为迫切需要。同时，脑成像信号呈现典型的弱信号、高噪声、非线性以及多维性特征，刻画复杂脑活动内在本质特征极具挑战性，如数据中包含多维度互相关的结构信息，内在非线性更是加大了模型和算法设计的难度。在多维病理性脑成像信号的因子化分析中，首要问题是保证因子的正确性，目前对于多维、非线性脑成像数据的因子化主要采用以下几种多线性方法：矩阵分解、张量分解等，这些方法缺乏注意力机制，同时方法的多线性机制无法对高非线性脑成像数据进行精确建模。为此，本发明拟研究基于多尺度注意力的深度非线性因子化方法，为后续任务提供数据基础。

发明内容

本发明的目的在于提供一种多尺度注意力的深度非线性因子化方法，以解决上述背景技术中提出的问题。

为实现上述目的，本发明提供如下技术方案：

一种多尺度注意力的深度非线性因子化方法，包括如下步骤：

步骤1：多模态脑成像大队列特征构建；

步骤2：脑成像数据的多尺度注意力特征提取；

步骤3：多模态脑成像数据深度非线性因子化；

步骤4：因子的前向拟合和反向构造与求精；

步骤5：反向更新非线性神经网络参数。

进一步地，步骤1的步骤如下：首先，利用利用多尺度注意力机制对关键特征进行聚焦；然后，利用深度因子化理论将高维脑成像张量映射到低维空间，同步提取多维度特征因子，同时解决先验知识缺乏、参数设定依赖专家设定的挑战；其次，利用层次平行因子理论，实现增量式高维脑成像数据的非线性因子求解，在分布式并行计算架构下实现因子融合海量并行计算获取脑成像大队列的特征因子；最后，利用深度网络模型对以因子为主的特征进行时空域增强，最终得到动态高维脑成像数据的低维特征。

进一步地，步骤2融合通道注意力模块和空间注意力模块对输入原始数据进行筛选，对提取的众多特征进行自动注意力加权，从而强调重要特征并压缩不重要特征。

进一步地，步骤3中，首先，构造深度平行因子分解模型，模型自动学习初始张量的因子，分解过程无需任何先验知识或假设条件，有多种基张量供选择，包括随机基张量、单位基张量、相对距离基张量或Hilbert基张量。

进一步地，步骤4中因子的前向拟合：从初始张量(X)出发，利用张量切片技术构建输入样本，第i个深度CNN将这些切片进行因子分解，以获得第i个模式的因子矩阵，然后，N个相关的CNNs以并行方式通过这种前向非线性拟合共同导出所有因子，最后，通过张量乘积操作，以恢复一个新的张量(Y)。