[发明专利]基于BiLSTM-CNN的英缅双语平行句对抽取方法及装置

权利要求书

1.一种基于BiLSTM-CNN的英缅双语平行句对抽取方法，其特征在于：

所述方法的具体步骤如下：

Step1、利用从英缅互译网站爬取的英缅互译文章，通过人工进行筛选并对齐得到2万个平行句对进行双语词向量预训练，得到英-缅跨语言共享的词嵌入空间，从而再得到英缅双语词向量，让句子表征的语义向量在跨英-缅语义空间具有相关性；

Step2、对句子进行功能标记，把每个词的句法结构信息拼接到词向量中，获取英-缅的句法差异性；

Step3、使用BiLSTM对句子中的每个词信息进行正向和反向的信息传递，得到包含上下文信息的不同时序所产生的特征状态；利用CNN网络表示句子的句法特征，得到该句的语义特征；

Step4、通过使用上述步骤得到的语义特征的元素乘积和元素绝对差来捕获源句子和目标句子的语义特征的匹配信息，将匹配信息馈送到全连接层，把输出概率作为衡量是否为平行句对的条件来抽取平行句对；

所述步骤Step2中，对句子进行功能标记时，通过缅甸语虚词和助词识别句子中的主谓宾，包括：

使用缅甸语分词系统对缅甸语进行分词；

使用缅甸语分词系统对缅甸语进行音节切分；

通过缅甸语的后置于名词的虚词和前置于名词的虚词以及主、谓、宾语成分助词识别句子中的虚词助词；

通过上述步骤得到的虚词助词进行主谓宾标注；

对句子进行功能标记时，通过斯坦福工具对英语进行功能标注；

所述步骤Step3、4的具体步骤如下：

通过BiLSMT对句子中的每个词信息进行正向和反向的信息传递，利用词的上下文信息，从而得到包含上下文信息的不同时序所产生的特征状态；

利用CNN网络表示句子的句法特征，对得到的特征状态进行卷积和池化来提取句子关键语义特征，得到该句的深层语义表示；

使用Adam作为模型优化器；

使用交叉熵作为损失函数对模型进行评估；

通过使用上述步骤得到的语义特征的元素乘积和元素绝对差来捕获源句子和目标句子的语义特征的匹配信息，将匹配信息馈送到全连接层，然后馈送到全连接层来估计句子相互翻译的概率，再把输出概率作为衡量是否为平行句对的条件来抽取平行句对，通过输出概率来判断是否为平行句对；其中，通过输出概率和阈值比较，大于阈值的则判断为平行句对，阈值取0.8或0.9。

2.根据权利要求1所述的基于BiLSTM-CNN的英缅双语平行句对抽取方法，其特征在于：所述步骤Step1的具体步骤如下：

从英缅互译网站爬取的英缅互译文章，通过人工进行筛选并对齐得到2万个平行句对；

使用缅甸语分词系统，对缅甸语进行分词并通过利用一个英-缅的种子词典，进行有监督的方法训练，使用普鲁克斯特对齐Procrustes alignment进行迭代，学习从源语言到目标语言的映射，得到英-缅跨语言共享的词嵌入空间，从而得到英缅双语词向量。

3.一种基于BiLSTM-CNN的英缅双语平行句对抽取装置，其特征在于，包括：

数据获取模块，用于利用网络爬虫技术获取网络上的英缅互译文章以及对数据进行清洗；

词向量模块，用于利用Facebook的Muse工具对获取到的数据进行双语词向量的训练；

功能标注模块，利用缅甸语分词系统对缅甸语进行分词以及音节切分，再利用缅甸语虚词及助词对缅甸语进行功能标注，通过斯坦福工具对英语进行功能标注；

句子表征模块，用于采用BiLSTM-CNN提取句子的语义特征；

输出模块，在对源语句和目标语句进行编码之后，即提取句子的语义特征之后，用于通过使用语义特征的元素乘积和元素绝对差来捕获句子和目标句子的语义特征的匹配信息，将匹配信息馈送到全连接层，把输出概率作为衡量是否为平行句对的条件来抽取平行句对；

通过BiLSMT对句子中的每个词信息进行正向和反向的信息传递，利用词的上下文信息，从而得到包含上下文信息的不同时序所产生的特征状态；

利用CNN网络表示句子的句法特征，对得到的特征状态进行卷积和池化来提取句子关键语义特征，得到该句的深层语义表示；

使用Adam作为模型优化器；

使用交叉熵作为损失函数对模型进行评估；

通过使用上述步骤得到的语义特征的元素乘积和元素绝对差来捕获源句子和目标句子的语义特征的匹配信息，将匹配信息馈送到全连接层，然后馈送到全连接层来估计句子相互翻译的概率，再把输出概率作为衡量是否为平行句对的条件来抽取平行句对，通过输出概率来判断是否为平行句对；其中，通过输出概率和阈值比较，大于阈值的则判断为平行句对，阈值取0.8或0.9。