[发明专利]模型训练、文本处理方法、装置以及设备有效

专利信息
申请号: 201811061901.6 申请日: 2018-09-12
公开(公告)号: CN110895559B 公开(公告)日: 2023-06-20
发明(设计)人: 唐鑫;赵伟朋;张佶 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06F16/332 分类号: G06F16/332;G06F16/35;G06F16/36
代理公司: 北京太合九思知识产权代理有限公司 11610 代理人: 刘戈
地址: 英属开曼群岛大开*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 模型 训练 文本 处理 方法 装置 以及 设备
【权利要求书】:

1.一种模型训练方法,其特征在于,包括:

获取源语言构成的第一训练文本;

获取至少一种目标语言构成的第二训练文本;其中,所述源语言与任一种目标语言不同,所述第一训练文本的数量大于第二训练文本的数量;

获取所述第一训练文本的第一词向量以及所述第二训练文本的第二词向量;

基于所述第一词向量与所述第二词向量语义相同的训练结果,利用所述第一词向量以及所述第二词向量训练文本识别模型;

其中,所述文本识别模型用以基于至少一种目标语言的待处理文本从源语言的知识库中查找与所述待处理文本匹配的目标文本,以获得所述目标文本对应的应答内容;

所述基于所述第一词向量与所述第二词向量语义相同的训练结果,利用所述第一词向量以及所述第二词向量训练文本识别模型包括:

构建文本识别模型的编码器以及分类器;

利用所述编码器,将所述第一词向量转换为第一句向量以及所述第二词向量转换为第二句向量;

将所述第一句向量以及所述第二句向量作为分类参数输入所述分类器;

基于所述分类器对所述第一句向量以及所述第二句向量的语义分类结果,调整所述编码器以及所述分类器,返回至所述利用所述编码器,将所述第一词向量转换为第一句向量以及所述第二词向量转换为第二句向量的步骤继续执行,直至所述分类器对所述第一句向量以及所述第二句向量的语义分类结果相同。

2.根据权利要求1所述的方法,其特征在于,所述基于所述分类器对所述第一句向量以及所述第二句向量的语义分类结果,调整所述编码器以及所述分类器,返回至所述利用所述编码器,将所述第一词向量转换为第一句向量以及所述第二词向量转换为第二句向量的步骤继续执行,直至所述分类器对所述第一句向量以及所述第二句向量的语义分类结果相同包括:

构建分类损失函数以及编码损失函数;

获取所述分类器对所述第一句向量以及所述第二句向量的语义分类结果;

将所述语义分类结果输入所述分类损失函数,获得针对所述语义分类结果的分类损失评价结果;

如果所述分类损失评价结果不满足预设的分类损失条件,重新训练所述分类器,并返回至所述获取所述分类器对所述第一句向量以及所述第二句向量的语义分类结果的步骤继续执行;

如果所述分类损失评价结果满足预设的损失条件,将所述语义分类结果输入所述编码损失函数,获得编码损失评价结果;

如果所述编码损失评价结果满足预设的编码损失条件,确定所述分类器对所述第一句向量以及所述第二句向量的语义分类结果相同,获得文本识别模型;

如果编码损失评价结果不满足预设的编码损失条件,重新训练所述编码器;并返回至所述利用所述编码器,将所述第一词向量转换为第一句向量以及所述第二词向量转换为第二句向量的步骤继续执行,直至所述损失评价结果满足预设的损失条件。

3.根据权利要求2所述的方法,其特征在于,所述如果编码损失评价结果不满足预设的编码损失条件,重新训练所述编码器包括:

如果所述损失评价结果不满足预设的损失条件,将所述第一句向量翻译为至少一种目标语言各自对应的目标翻译文本,以及将所述第二句向量翻译为源语言对应的源翻译文本;

基于所述至少一种目标语言各自对应的目标翻译文本以及所述源翻译文本,重新训练所述编码器,以更新所述编码器。

4.根据权利要求1所述的方法,其特征在于,所述获取所述第一训练文本的第一词向量以及所述第二训练文本的第二词向量包括:

获取所述源语言以及所述至少一种目标语言对应的词向量库;其中,所述词向量库中基于所述源语言的第三训练文本以及所述至少一种目标语言的第四训练文本事先交叉训练获得;

查询所述词向量库中与所述第一训练文本各个分词匹配的第一词向量;

查询所述词向量库中与所述第二训练文本各个分词匹配的第二词向量。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811061901.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top