[发明专利]一种义原预测方法及系统在审

专利信息
申请号: 202110713176.1 申请日: 2021-06-25
公开(公告)号: CN113743123A 公开(公告)日: 2021-12-03
发明(设计)人: 孙茂松;岂凡超;吕传承;刘知远 申请(专利权)人: 清华大学
主分类号: G06F40/30 分类号: G06F40/30;G06K9/62;G06F16/35;G06F40/247;G06N5/02
代理公司: 北京路浩知识产权代理有限公司 11002 代理人: 郭亮
地址: 100084 北*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 预测 方法 系统
【权利要求书】:

1.一种义原预测方法,其特征在于,包括:

根据不同语言的同义词和同义词释义,获取多语言文本序列;

通过图片编码器,对同义词图片进行编码,得到图片向量,所述同义词图片是从预设同义词集中获取得到的;

将所述多语言文本序列和所述图片向量输入到训练好的义原预测模型,得到多语言义原预测结果,其中,所述训练好的义原预测模型是由多语言样本文本序列和预设同义词集中的样本图片向量,对跨语言预训练模型和第一多标签分类器进行训练得到的。

2.根据权利要求1所述的义原预测方法,其特征在于,所述训练好的编码模型通过以下步骤得到:

获取多语言样本文本序列,并对所述多语言样本文本序列进行义原标注,得到第一训练样本集;

通过ResNet,对预设同义词集中的样本同义词图片进行编码,得到样本图片向量,并通过线性层,将所述样本图片向量转换到所述多语言样本文本序列所在的语义向量空间,得到空间转换后的样本图片向量;

将所述第一训练样本集输入跨语言预训练模型进行训练,输出得到的多语言样本文本序列向量表示;

基于注意力机制,对所述空间转换后的样本图片向量进行加权求和,得到集成图片向量;

将所述多语言样本文本序列向量表示和所述集成图片向量输入至第一多标签分类器进行训练,得到训练好的义原预测模型。

3.根据权利要求2所述的义原预测方法,其特征在于,所述获取多语言样本文本序列,包括:

通过第一预设分隔符,将同一种语言的样本同义词和对应的样本同义词释义进行拼接,得到样本同义词与释义对;

通过第二预设分隔符,对不同语言的样本同义词与释义对进行拼接,得到多语言样本文本序列。

4.根据权利要求2所述的义原预测方法,其特征在于,在所述获取多语言样本文本序列之后,所述方法还包括:

通过MASK字符,随机对所述多语言样本文本序列中的词语进行替换,并对替换后的多语言样本文本序列进行义原标注,构建得到第二训练样本集;

将所述第二训练样本集输入跨语言预训练模型进行训练,并将所述跨语言预训练模型的输出,作为第二多标签分类器的输入,利用所述第二多标签分类器的多标签分类交叉熵损失函数,对跨语言预训练模型进行微调,以通过微调后的跨语言训练模型和第一多标签分类器进行训练,得到训练好的义原预测模型。

5.根据权利要求2所述的义原预测方法,其特征在于,在所述将所述第一训练样本集输入跨语言预训练模型进行训练,输出得到的多语言样本文本序列向量表示之后,所述方法还包括:

对所述多语言样本文本序列向量表示进行最大化池化操作,得到样本序列表示向量;

将所述样本序列表示向量和所述集成图片向量输入第一多标签分类器进行训练,得到训练好的义原预测模型。

6.根据权利要求1所述的义原预测方法,其特征在于,在所述将所述多语言文本序列和所述图片向量输入到训练好的义原预测模型,得到多语言义原预测结果之后,所述方法还包括:

根据多语言义原预测结果,获取不同语言的同义词中每个预测义原的义原预测概率;

将义原预测概率满足预设阈值的预测义原作为目标义原,以根据所述目标义原构建多语言义原知识库。

7.一种义原预测系统,其特征在于,包括:

多语言文本序列构建模块,用于根据不同语言的同义词和同义词释义,获取多语言文本序列;

图片编码模块,用于通过图片编码器,对同义词图片进行编码,得到图片向量,所述同义词图片是从预设同义词集中获取得到的;

义原预测模块,用于将所述多语言文本序列和所述图片向量输入到训练好的义原预测模型,得到多语言义原预测结果,其中,所述训练好的义原预测模型是由多语言样本文本序列和预设同义词集中的样本图片向量,对跨语言预训练模型和第一多标签分类器进行训练得到的。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学,未经清华大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110713176.1/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top