[发明专利]基于时序对齐预测的序列距离度量方法、存储介质及芯片

说明书

本发明涉及机器学习技术领域，为基于时序对齐预测的序列距离度量方法、存储介质及芯片，包括步骤：先构建保序对齐预测(OAP)模型，对OAP模型进行自监督训练。保序对齐预测距离采用轻量级类似transformer的神经网络直接预测两个序列之间的最优对齐，因此在推理时只需要直接计算，不涉及优化。可以应用在序列分类和检索任务中，在获得和别的序列距离相当的性能同时，具有更快的推理速度。该方案提出的保序对齐预测OAP距离是可学习的序列距离，在推理中只需要直接计算，具有良好的可解释性；其次，通过设计产生近似真实对齐的序列增强方法，在此基础上，提出了自监督的OAP学习方法，不需要标注训练序列；此外，OAP距离可以方便地实现端到端的监督表征学习。

技术领域

本发明涉及机器学习技术领域，具体涉及基于时序对齐预测的序列距离度量方法、存储介质及芯片。

背景技术

序列之间的距离在序列分类、检索、聚类等应用中起着至关重要的作用。相比于向量距离，度量序列之间的距离更加困难，因为不同的序列可能有不同的采样率、执行速度、局部扭曲、初始状态和弹性扭曲。为了解决这些时序差异，现有的序列距离或者将每个序列编码成一个时序不变的特征向量，或者使用对齐进行时序对应校准。典型的基于特征的方法使用循环神经网络(RNN)对序列进行编码并度量相应特征之间的欧几里德距离。与计算与任何其他序列的距离时，一个序列的特征总是固定的。虽然这些方法是可学习的，并且在推理时只需要进行前向计算，但它们需要大量序列来训练复杂的RNN，并且可解释性较弱，因为不清楚学习到的特征如何处理时序差异以及可以处理哪些类型的时序差异。

基于对齐的方法为不同的序列对确定不同的最优对齐。这更加直观和灵活，因为在比较不同序列时，时序差异可能不同。大多数对齐方法在预定义的可行约束下解决优化问题以推断最优对齐。例如，DTW可能是应用最广泛的序列距离，其各种变体或进行加速推理，或适应增加或修改的约束，或处理来自不同模态的序列，其中Soft－DTW通过使用所有可行对齐的软最小成本作为目标来优化可微损失。但这些优化通常很耗时，不能充分利用GPU，并且不能很好地扩展到长序列。

此外，由于推断对齐本身就是一个优化问题并且有自己的目标，因此难以使用其他目标的基于序列距离的端到端学习。例如，学习序列中元素的判别时序表征通常采用不同类别的序列在给定的序列距离下更好地分离的目标函数。这个总体目标的梯度很难通过对齐进行反向传播，因为对齐变量是由另一个优化问题确定的潜在变量。

发明内容

本发明提供了基于时序对齐预测的序列距离度量方法、存储介质及芯片，解决了以上所述的现有基于对齐的序列距离不足的技术问题。

本发明为解决上述技术问题提供了基于时序对齐预测的序列距离度量方法，包括以下步骤：

S100，构建保序对齐预测(OAP)模型；

具体地，输入序列：和是两个长度分别为L_X和L_Y的序列，X的元素x_i，i＝1，2，…，L_X和Y的元素y_j，j＝1，…，L_Y位于d维特征空间R^d中；

超参数：变换后的维数d′、时序矩阵权重λ，在计算X和Y之间的距离时，将Y对齐到X；

S200，对OAP模型进行自监督训练；具体地，采用神经网络f通过考虑时序信息直接预测最优对齐的概率T^*＝f(X，Y)，则X和Y之间的OAP距离为：d(X，Y)＝T^*，D，其中是X和Y中元素之间的成对距离矩阵，e(x_i，y_j)是两个元素x_i和y_j之间的向量距离，表示x_i和y_j对齐的概率。

可选地，所述OAP模型的前向计算过程包括：