[发明专利]一种基于张量化高阶互注意力机制的多源域适应方法

说明书

本发明公开一种基于张量化高阶互注意力机制的多源域适应方法。通过共享子网络构建初级特征提取器以提取多源域数据的浅层共有特征。其次，分别构造不同源域的深层特征提取器，目标域数据分别通过这些深层特征提取器以提取与不同源域相关的特征。在深层特征的基础上，通过高阶互注意力机制挖掘多源域空间深层特征之间的高阶相关性，并应用于目标域，从而与度量目标域与源域特征分布差异的损失函数一起指导目标域与源域的域不变特征提取。最后，分别训练每个源域的特征分类器，将目标域数据特征分别输入这些分类器，得到所有预测结果的平均作为最终目标域数据的预测结果。本发明有效挖掘多源域特征间的相关性，适用于多源域适应。

技术领域

本发明属于无监督多源域适应领域，具体涉及一种基于张量化高阶互注意力机制的多源域适应方法，具体是一种利用高阶互注意力机制挖掘多源域数据特征间相关性的技术，通过该技术有效挖掘目标域与多个源域间的域不变特征以增强域适应效果，从而进行无监督的分类。

背景技术

无监督多源域适应通常应用于缺乏大规模标记数据的实际应用中，该类方法利用多源域大量带标签数据，训练有效的方法应用于只包含无标签数据的目标域完成任务。由于域偏移不仅存在于目标域与源域之间，还存在于多源域之间，因此多源域适应比单源域适应更具有挑战性。

无监督多源域适应的一种常见的策略是分别训练每个源域的特征提取器与分类器，继而成对地对齐目标域和每个源域的特征分布，最后将不同地分类器结果整合作为最终目标域样本的预测结果。该策略能有效地避免多源域间的域偏移，但忽略了多个源域的特性级交互。近年来，交互注意机制在描述多种特征的相关性方面表现出了强大的表达能力。现有的交互注意力只关注成对特征交互或通过外积以建模多个特征间的高阶相关性，但该过程可能产生大量的稀疏特征，并导致模型复杂度随特征数量的增加而增加。因此现有的交互注意力机制不能有效挖掘多源域特征间的相关性，不适用于多源域适应。

发明内容

本发明的一个目的是针对现有技术的不足，提出一种基于高阶交互注意力机制的多源域适应方法。首先，通过共享子网络构建初级特征提取器以提取多源域数据的浅层共有特征。其次，分别构造不同源域的深层特征提取器，目标域数据分别通过这些深层特征提取器以提取与不同源域相关的特征。在深层特征的基础上，通过高阶互注意力机制挖掘多源域空间深层特征之间的高阶相关性，并应用于目标域，从而与度量目标域与源域特征分布差异的损失函数一起指导目标域与源域的域不变特征提取。最后，分别训练每个源域的特征分类器，将目标域数据特征分别输入这些分类器，得到所有预测结果的平均作为最终目标域数据的预测结果。

一种基于张量化高阶互注意力机制的多源域适应方法，包括以下步骤：

步骤1、获取带标签的多源域数据和不带标签的目标域数据，并将带标签的多源域数据作为第一训练集；其中多源域包含N个源域，N≥2；

步骤2、由于每个源域拥有一个特征提取器，故利用第一训练集各源域数据训练各自的特征提取器；

所述的特征提取器包括初级特征提取器、深层特征提取器；

步骤3、由于目标域映射对应N个源域，故目标域拥有每个源域的特征提取器，共N个；然后利用训练好的所有源域特征提取器以不带标签的目标域数据作为输入，得到目标域在各源域空间的深层特征；

步骤4、提取多源域数据的特定域空间特征

4-1获取不同源域空间深层特征之间的交互关系

1)假设深层特征提取器输出的各源域空间深层特征其中N表示深层特征提取器中子网络的个数，也是域的个数，I_n，J_n分别表示第n个源域空间深层特征矩阵的两个维度大小，n∈[1，N]；根据公式(1)将各源域空间深层特征与高阶交互张量的不同维度进行模乘，得到一个高阶互注意张量

其中×n表示第n维上的模乘，n∈[1，N]；