[发明专利]基于GTN的多元时间序列分类模型及其构建方法

权利要求书

1.一种基于GTN的多元时间序列分类模型的构建方法，其特征在于，包括：

构建embedding层；

构建Two-tower Transformer层，所述Two-tower Transformer层包括实现并行处理的时间特征编码器和时间步编码器，所述时间特征编码器用于对时间特征进行编码，所述时间步编码器用于对时间步进行编码；

构建gating层，所述gating层用于根据每个tower的输出，得到非线性激活，将所述非线性激活处理成对应的向量，接着根据所述向量得到线性关系，然后通过softmax函数得到每个tower的门控权重，最后将得到的门控权重加入到相应tower的输出中，连接成最终的特征向量；

构建线性层，所述线性层用于将gating层得到的结果维度转换成最终分类结果维度；

构建softmax函数层，所述softmax函数层用于将线性层的输出映射到[0，1]区间内，使得所有输出值的累加和为1，在最后选取输出结点时，选取概率最大的结点。

2.根据权利要求1所述的基于GTN的多元时间序列分类模型的构建方法，其特征在于，所述构建embedding层，包括：

构建embedding层，通过非线性激活函数，将所述embedding层更改为全连接层来代替线性投影。

3.根据权利要求1所述的基于GTN的多元时间序列分类模型的构建方法，其特征在于，所述时间步编码器中设置有位置编码和mask机制。

4.根据权利要求1所述的基于GTN的多元时间序列分类模型的构建方法，其特征在于，所述将所述非线性激活处理成对应的向量，包括：

得到的非线性激活为C和S，将所述非线性激活进行串联，得到的向量为Concat(C，S)；

所述根据所述向量得到线性关系，包括：

得到的线性关系如下：

h＝W·Concat(C，S)+b

其中，h为所述线性关系，W和b为预设参数；

所述通过softmax函数得到每个tower的门控权重，最后将得到的门控权重加入到相应tower的输出中，连接成最终的特征向量，包括：

将所述线性关系通过softmax函数的计算之后得到每个tower的门控权重为g1和g2，计算公式如下：

g₁，g₂＝Softmax(h)

所述最终的特征向量的计算公式如下：

y＝Concat(C·g₁，S·g₂)

其中，y为所述最终的特征向量。

5.根据权利要求1所述的基于GTN的多元时间序列分类模型的构建方法，其特征在于，所述将线性层的输出映射到[0，1]区间内，包括：

其中，zi为第i个节点的输出值，C为输出节点的个数，即分类的类别个数；

通过softmax函数能够将多分类的输出值转换为范围在[0，1]和为1的概率分布。

6.一种基于GTN的多元时间序列分类模型，其特征在于，包括：

embedding层；

Two-tower Transformer层，所述Two-tower Transformer层包括实现并行处理的时间特征编码器和时间步编码器，所述时间特征编码器用于对时间特征进行编码，所述时间步编码器用于对时间步进行编码；

gating层，所述gating层用于根据每个tower的输出，得到非线性激活，将所述非线性激活处理成对应的向量，接着根据所述向量得到线性关系，然后通过softmax函数得到每个tower的门控权重，最后将得到的门控权重加入到相应tower的输出中，连接成最终的特征向量；

线性层，所述线性层用于将gating层得到的结果维度转换成最终分类结果维度；

softmax函数层，所述softmax函数层用于将线性层的输出映射到[0，1]区间内，使得所有输出值的累加和为1，在最后选取输出结点时，选取概率最大的结点。