[发明专利]一种相似文本数据集生成方法及装置在审
申请号: | 201910270585.1 | 申请日: | 2019-04-04 |
公开(公告)号: | CN110046332A | 公开(公告)日: | 2019-07-23 |
发明(设计)人: | 薛闯 | 申请(专利权)人: | 珠海远光移动互联科技有限公司 |
主分类号: | G06F17/22 | 分类号: | G06F17/22;G06F17/27 |
代理公司: | 北京天达知识产权代理事务所(普通合伙) 11386 | 代理人: | 庞许倩;武悦 |
地址: | 519000 广东省珠海*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本数据 文本 转换模型 原文 文本集 相似度 自然语言文本 快速生成 选择结果 智能分析 转换方式 转换 | ||
1.一种相似文本数据集生成方法,其特征在于,包括如下步骤:
利用第一转换模型,将原文本转换为与所述原文本相关的第一文本集;
利用第二转换模型,将得到的所述第一文本集中的每一文本分别转换为与所述每一文本相关的第二文本集;
从所述第二文本集中选择与原文本相似的文本,将所述选择结果作为原文本的相似文本数据集;
所述第一转换模型与所述第二转换模型采用不同的转换方式。
2.根据权利要求1所述的方法,其特征在于:所述第一转换模型、第二转换模型分别为翻译方式不同的翻译模型:
所述第一转换模型包括多个翻译子模型,不同的翻译子模型翻译侧重的方向不同;利用所述多个翻译子模型分别将原文本由原语言转换为侧重方向不同、同一中介语言表示的文本,得到由同一中介语言表述的第一文本集;
所述第二转换模型,用于将所述第一文本集中的每一文本,由中介语言转换为原语言,得到由原语言表述的第二文本集。
3.根据权利要求1所述的方法,其特征在于:所述第一转换模型、第二转换模型分别为翻译方式不同的翻译模型:
所述第一转换模型包括N个翻译子模型,不同的翻译子模型分别用于将原文本由原语言转化为不同的中介语言,得到由多种中介语言表述的第一文本集;
所述第二转换模型也包括N个翻译子模型,分别与第一转换模型中的N个翻译子模型对应设置,不同的翻译子模型分别用于将所述第一文本集中的每一文本由中介语言转换为原语言,得到由原语言表述的第二文本集。
4.根据权利要求2或3所述的方法,其特征在于,利用不同的损失函数及惩罚机制训练所述第一转换模型、所述第二转换模型;
利用所述原语言与所述中介语言对应的第一平行数据训练所述第一转换模型;
利用所述中介语言与所述语言对应的第二平行数据训练所述第二转换模型;
其中,所述第一平行数据与第二平行数据为不同数据。
5.根据权利要求4所述的方法,其特征在于,执行以下操作,获取所述第二文本集中与原文本相似的文本,得到原文本的相似文本数据集:
对所述第二文本集中的各文本、原文本分别进行分词,得到第二文本集中的各文本向量与原文本的文本向量;
分别计算所述第二文本集中的各文本向量与原文本的文本向量的余弦相似度,提取所述余弦相似度满足余弦相似度阈值范围的第二文本集中的文本,作为原文本的相似文本数据集。
6.一种相似文本数据集生成装置,其特征在于,包括:
第一文本集生成模块,用于利用第一转换模型,将原文本转换为与所述原文本相关的第一文本集;
第二文本集生成模块,用于利用第二转换模型,将得到的所述第一文本集中的每一文本分别转换为与所述每一文本相关的第二文本集;
相似文本数据集生成模块,用于从所述第二文本集中选择与原文本相似的文本,将所述选择结果作为原文本的相似文本数据集;
其中,所述第一转换模型与所述第二转换模型采用不同的转换方式。
7.根据权利要求6所述的装置,其特征在于:所述第一转换模型、第二转换模型分别为翻译方式不同的翻译模型:
所述第一转换模型包括多个翻译子模型,不同的翻译子模型翻译侧重的方向不同;利用所述多个翻译子模型分别将原文本由原语言转换为侧重方向不同、同一中介语言表示的文本,得到由同一中介语言表述的第一文本集;
所述第二转换模型,用于将所述第一文本集中的每一文本,由中介语言转换为原语言,得到由原语言表述的第二文本集。
8.根据权利要求6所述的装置,其特征在于:所述第一转换模型、第二转换模型分别为翻译方式不同的翻译模型:
所述第一转换模型包括N个翻译子模型,不同的翻译子模型分别用于将原文本由原语言转化为不同的中介语言,得到由多种中介语言表述的第一文本集;
所述第二转换模型也包括N个翻译子模型,分别与第一转换模型中的N个翻译子模型对应设置,不同的翻译子模型分别用于将所述第一文本集中的每一文本由中介语言转换为原语言,得到由原语言表述的第二文本集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于珠海远光移动互联科技有限公司,未经珠海远光移动互联科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910270585.1/1.html,转载请声明来源钻瓜专利网。