[发明专利]基于动态规划的文本对齐方法及系统在审
申请号: | 202110047757.6 | 申请日: | 2021-01-14 |
公开(公告)号: | CN112766002A | 公开(公告)日: | 2021-05-07 |
发明(设计)人: | 陈斯 | 申请(专利权)人: | 语联网(武汉)信息技术有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/211 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 郑朝然 |
地址: | 430206 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 动态 规划 文本 对齐 方法 系统 | ||
1.一种基于动态规划的文本对齐方法,其特征在于,包括:
获取目标原文中每个原文句子对应的向量和目标译文中每个译文句子对应的向量;
对于所述目标原文中位于原文预设窗口内的任一原文句子,计算所述任一原文句子对应的向量与所述目标译文中位于所述译文预设窗口内的每一译文句子对应的向量之间的初始相似度;
对于所述译文预设窗口中的任一译文句子,通过前向搜索获取所述任一原文句子到所述任一译文句子的前K条译文句子之间的初始相似度,通过后向搜索获取所述任一译文句子到所述任一原文句子的前K条原文句子之间的初始相似度,获取每一原文句子与每一译文句子之间的优化相似度,K0,且K为正整数,所述前K条译文句子为与所述任一原文句子相似度最高的前K条译文句子,所述前K条原文句子为与所述任一译文句子相似度最高的前K条原文句子;
根据每一原文句子与每一译文句子之间的优化相似度,获取每一原文句子对应的候选译文句子;
获取所有原文句子对应的第一最长递增子序列和所有译文句子对应的第二最长递增子序列,将所述第一最长递增子序列和所述第二最长递增子序列中错误锚点边删除,所述锚点边表示原文句子与候选译文句子之间的对齐关系,所述错误锚点边为在所有锚点边中优化相似度排在最后预设比例的锚点边;
将剩余未对齐的原文句子重新当做所述原文预设窗口,将剩余未对齐的译文句子重新当做所述译文对齐窗口,重复上述过程,若每个原文句子都找到对应的候选译文句子,则获取每一原文句子对应的最优译文句子。
2.根据权利要求1所述的基于动态规划的文本对齐方法,其特征在于,还包括:
若达到预设循环次数,对于剩下未对齐的译文句子,将剩下未对齐的译文句子与目标锚点译文句子进行拼接,若目标锚点原文句子与拼接后的译文句子之间的优化相似度大于所述目标锚点原文句子与所述目标锚点译文句子之间的优化相似度,则将拼接后的译文句子重新作为所述目标锚点译文句子,所述目标锚点译文句子为剩下未对齐的译文句子上方已经对齐的译文句子。
3.根据权利要求2所述的基于动态规划的文本对齐方法,其特征在于,还包括:
若目标锚点原文句子与拼接后的译文句子之间的优化相似度不大于所述目标锚点原文句子与所述目标锚点译文句子之间的优化相似度,则不做处理。
4.根据权利要求1至3任一所述的基于动态规划的文本对齐方法,其特征在于,所述计算所述任一原文句子对应的向量与所述目标译文中位于所述预设窗口内的每一译文句子对应的向量之间的初始相似度,包括:
计算所述任一原文句子对应的向量与所述目标译文中位于所述预设窗口内的每一译文句子对应的向量之间的余弦相似度,即为所述初始相似度。
5.根据权利要求1至3任一所述的基于动态规划的文本对齐方法,其特征在于,所述计算所述任一原文句子对应的向量与所述目标译文中位于所述预设窗口内的每一译文句子对应的向量之间的初始相似度,包括:
计算所述任一原文句子对应的向量与所述目标译文中位于所述预设窗口内的每一译文句子对应的向量之间的L2距离,即为所述初始相似度。
6.根据权利要求1至3任一所述的基于动态规划的文本对齐方法,其特征在于,所述根据所述任一原文句子到所述任一译文句子的前K条译文句子之间的初始相似度、所述任一译文句子到所述任一原文句子的后K条原文句子之间的初始相似度,获取所述任一原文句子与所述任一译文句子之间的优化相似度之前,还包括:
对所述初始相似度进行正则化处理,获取正则化后的初始相似度,将正则化后的初始相似度重新作为所述初始相似度。
7.根据权利要求1至3任一所述的基于动态规划的文本对齐方法,其特征在于,所述根据每一原文句子与每一译文句子之间的优化相似度,获取每一原文句子对应的候选译文句子之前,还包括:
对所述优化相似度进行正则化处理,获取正则化后的优化相似度,将正则化后的优化相似度重新作为所述优化相似度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于语联网(武汉)信息技术有限公司,未经语联网(武汉)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110047757.6/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种腌制食品加工上料装置
- 下一篇:一种用于涂料加工用多功能筛分混料装置