[发明专利]基于量子注意力机制双向长短期记忆预测模型及提取方法

权利要求书

1.基于量子注意力机制双向长短期记忆预测模型，其特征在于，包括向量嵌入模块、量子双向长短期记忆模块、量子注意力机制模块和分类模块，所述向量嵌入模块用于从语料数据库中得到语料，并提取词向量、实体类型向量、词性向量和最短依存路径向量，再将词向量、实体类型向量、词性向量和最短依存路径向量拼接为一个嵌入向量；所述量子双向长短期记忆模块包括前向QLSTM网络和后向QLSTM网络，每个所述向量嵌入模块拼接的嵌入向量经所述前向QLSTM网络和所述后向QLSTM网络编码后得到两个隐状态向量，再将两个隐状态向量拼接作为语义表示向量；所述量子注意力机制模块用于引入量子计算将所述量子双向长短期记忆模块提取的特征整合为一个特征向量；所述分类模块用于将所述量子注意力机制模块得到的特征向量输入到分类器进行分类预测。

2.根据权利要求1所述的基于量子注意力机制双向长短期记忆预测模型，其特征在于，所述向量嵌入模块包括以下步骤：

S1：使用词向量计算工具word2vec将句子中每个词表示为词向量，然后拼接，得到句子向量表示，其中，词向量通过查找词向量表获得；

S2：实体类型向量被映射到与句子长度一致的实值矩阵中，通过统计实体类型的个数，随机初始化实体类型向量表，再从实体类型向量表中查找句子中每个词的实体类型向量；

S3：词性向量被映射到与句子长度一致的实值矩阵中，使用自然语言处理工具包Stanford CoreNLP识别句中每个词的词性，再统计词性类型数，将词的词性标签标记为词性类型，构建词性类型向量表，查找词性类型向量表获取句子中每个词的词性向量；

S4：使用词向量计算工具word2vec将最短依存路径信息进行向量表示，得到最短依存路径向量，最短依存路径信息表征两个实体之间的依存关系，包含句子表达的主要信息，将两个实体间的最短路径作为词序列输入进行训练；

S5：拼接步骤S1、S2、S3和S4分别得到的词向量、实体类型向量、词性向量和最短依存路径向量，得到嵌入向量作为所述量子双向长短期记忆模块的输入。

3.根据权利要求1所述的基于量子注意力机制双向长短期记忆预测模型，其特征在于，所述前向QLSTM网络和所述后向QLSTM网络均包括多个QLSTM单元，每个QLSTM单元包括6个变分量子电路VQC，所述QLSTM单元的输入为前一个时间步长的隐藏状态与当前输入向量的连接，输出为每个VQC结束时测量到的四个向量，测量值为每个量子位的泡利-Z期望值，经泡利-Z操作一个量子比特，然后经过两个非线性激励函数σ和双曲正切函数tanh，得到特征向量，作为所述量子注意力机制模块的输入数据。

4.根据权利要求3所述的基于量子注意力机制双向长短期记忆预测模型，其特征在于，所述QLSTM单元的数据处理过程包括：

S1：编码从所述向量嵌入模块得到的嵌入向量的特征数据到N-量子态；

S2：N-量子态特征数据进行幺正量子操作；

S3：每个变分量子电路VQC的末尾为一个量子测量层，通过计算基础上的测量来考虑每个量子位的期望值。

5.根据权利要求4所述的基于量子注意力机制双向长短期记忆预测模型，其特征在于，所述步骤S1中N-量子态表示为：

其中，为每一基态与每一量子q_i∈{0,1}的复振幅；的平方表示测量后状态的测量概率，且

将初始状态转换为无偏状态：

其中，i是标记对应位字符串的十进制数。

6.根据权利要求4所述的基于量子注意力机制双向长短期记忆预测模型，其特征在于，所述步骤S2中幺正量子操作包括多个量子CNOT门和单量子位旋转门，CNOT门应用于每一对固定邻接1和2的量子位产生多量子位纠缠，单量子位旋转门{R_i＝R(α_i,β_i,γ_i)}在沿x,y和z轴方向的3个旋转角度{α_i,β_i,γ_i}事先不固定，在基于梯度下降法的迭代优化过程中进行更新。