[发明专利]一种基于attention的双向表示模型的RNA修饰位点预测方法

说明书

本发明公开了一种基于attention的双向表示模型的RNA修饰位点预测方法，其涉及生物信息学RNA转录后修饰位点预测领域。包括：将包含N¹‑甲基腺苷修饰位点的RNA碱基序列为正样本和不包含N¹‑甲基腺苷修饰位点的RNA碱基序列为负样本，进行词嵌入编码；将编码后的序列分为两路，在一个序列和另一个反转序列首段添加分类符号并进行位置编码；将编码后的两个序列输入编码模块中采用训练权重共享原则反复训练；将两路训练好的序列分类符号相加后经过全连接神经网络层和二分类器，预测哪个序列里包含N¹‑甲基腺苷修饰位点。本发明能够描述复杂方面词的上下文关系，加强文本中重要词汇对情感分析的影响，从而准确预测RNA生物序列中是否包含N¹‑甲基腺苷修饰位点。

技术领域

本发明涉及生物信息学RNA转录后修饰位点预测领域，特别涉及一种基于attention的双向表示模型的RNA中N¹-甲基腺苷修饰位点预测方法。

背景技术

研究表明，通过转录后RNA修饰的表观转录组调控对于所有种类的RNA都是必不可少的，所以，准确识别RNA修饰对于理解其目的和调控机制至关重要。

传统的RNA修饰位点识别实验方法相对复杂、费时、费力。机器学习方法已经应用于RNA序列特征提取和分类的计算过程中，可以更有效地补充实验方法。近年来，卷积神经网络(Convolutional Neural Networks,CNN)和长时记忆(Long short-term memory,LSTM)由于在表征学习方面的强大功能，在修饰位点预测方面取得了显著的成就。

然而，卷积神经网络(CNN)可以从空间数据中学习局部响应，但不能学习序列相关性；长时记忆(LSTM)专门用于序列建模，可以同时访问上下文表示，但与CNN相比缺乏空间数据提取。由于以上原因，使用自然语言处理(Natural Language Processing,NLP)、其他深度学习(DeepLearn,DL)构建预测框架的动力十分强烈。

现有技术中，在构建预测框架时，使用注意力机制虽然可以关注到句子上下文的重要特征，但是单个注意力矩阵之间缺乏信息交互，难以描述复杂方面词的上下文关系；且没有充分联系上下文，加强文本中重要词汇对情感分析的影响。

发明内容

基于此，有必要针对上述技术问题，提供一种基于attention的双向表示模型的RNA修饰位点预测方法。

本发明实施例提供一种基于attention的双向表示模型的RNA修饰位点预测方法，包括：

将包含N¹-甲基腺苷修饰位点的人类物种RNA碱基序列为正样本和不包含N¹-甲基腺苷修饰位点的人类物种RNA碱基序列为负样本，进行word2vec词嵌入编码；

将经过word2vec词嵌入编码后的序列分为两路词嵌入编码序列；其中，在一个词嵌入编码序列首段添加分类符号并进行位置编码形成正向序列，对另一个词嵌入编码序列位置反转后并在其首段添加分类符号和进行位置编码形成反向序列；

将正向序列和反向序列均输入编码模块中进行训练，获得正向特征序列和反向特征序列；其中，所述编码模块包括3个依次串接的编码块；所述编码块包括：一个多头自注意力层和一个前向反馈全连接层，且每层之间通过残差连接和标准化层连接；

将正向特征序列的分类符号的值和反向特征序列的分类符号的值相加，后经过全连接神经网络层和二分类器，预测人类物种RNA碱基序列中是否包含N¹-甲基腺苷修饰位点。

进一步地，所述对RNA碱基序列进行word2vec词嵌入编码，具体包括：