[发明专利]对语词向量生成方法、对语生成模型训练方法有效
申请号: | 202010038403.0 | 申请日: | 2020-01-14 |
公开(公告)号: | CN111241830B | 公开(公告)日: | 2023-09-01 |
发明(设计)人: | 吴仁守 | 申请(专利权)人: | 思必驰科技股份有限公司 |
主分类号: | G06F40/289 | 分类号: | G06F40/289;G06F40/30;G06F40/211 |
代理公司: | 北京商专永信知识产权代理事务所(普通合伙) 11400 | 代理人: | 黄谦;车江华 |
地址: | 215123 江苏省苏州市苏*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语词 向量 生成 方法 模型 训练 | ||
1.一种对语词向量生成方法,所述对语包括第一语句和第二语句,所述对语为对联;所述第一语句为所述对联的上联,所述第二语句为所述对联的下联;或者,所述第一语句为所述对联的下联,所述第二语句为所述对联的上联,所述方法包括:
确定所述第一语句中的需要生成词向量的待对词;
确定所述第二语句中与所述待对词在所述第一语句中的位置相对应的对词;
根据所述第一语句中的对应于所述待对词的邻接词和所述第二语句中的所述对词的邻接词确定所述待对词的词向量;
所述待对词的邻接词为所述待对词的后续词和/或所述待对词的前置词。
2.根据权利要求1所述的方法,其中,
当所述待对词为所述第一语句中的第一个词时,所述待对词的邻接词为所述第一语句中的所述待对词的后续词;
当所述待对词为所述第一语句中的最后一个词时,所述待对词的邻接词为所述第一语句中的所述待对词的前置词;
当所述待对词为所述第一语句中的中间词时,所述待对词的邻接词包括所述第一语句中的所述待对词的前置词和后续词。
3.一种对语生成模型训练方法,包括:
获取样本对语,所述样本对语包括第一样本语句和第二样本语句;
采用权利要求1-2中任一项所述的方法生成所述第一样本语句的多个词的多个词向量;
将所述第一样本语句的多个词的多个词向量输入至编码器,以得到对应于所述第一样本语句的语义向量;
至少将所述第一样本语句的语义向量输入至解码器,以确定对应于所述第二样本语句中的多个词的条件概率;
根据所述第二样本语句中的多个词的条件概率,基于最小交叉熵算法对所述编码器和所述解码器进行参数优化。
4.根据权利要求3所述的方法,其中,所述方法还包括:
确定所述第二样本语句中的当前待确定条件概率的词;
获取所述第一样本语句中与所述当前待确定条件概率的词相对应的词的词向量;
所述至少将所述第一样本语句的语义向量输入至解码器,以确定对应于所述第二样本语句中的多个词的条件概率包括:
将所述第一样本语句的语义向量和所述相对应的词的词向量输入至解码器,以确定所述当前待确定条件概率的词的条件概率。
5.一种对语生成方法,包括:
接收用户输入的待对语句;
将所述待对语句输入至对语生成模型,以得到相匹配的语句,所述对语生成模型采用权利要求3或4所述的方法预先训练得到。
6.根据权利要求5所述的方法,其中,所述待对语句为对联中的上联或者下联。
7.一种对语生成系统,包括:
对语获取模块,用于获取样本对语,所述样本对语包括第一样本语句和第二样本语句;
词向量生成模块,用于采用权利要求1-2中任一项所述的方法生成所述第一样本语句的多个词的多个词向量;
编码器模块,用于对所述第一样本语句的多个词的多个词向量进行编码,以得到对应于所述第一样本语句的语义向量;
解码器模块,用于至少对所述第一样本语句的语义向量进行解码,以确定对应于所述第二样本语句中的多个词的条件概率;
参数优化模块,用于根据所述第二样本语句中的多个词的条件概率,基于最小交叉熵算法对所述编码器和所述解码器进行参数优化。
8.一种电子设备,其包括:至少一个处理器,以及与所述至少一个处理器通信连接的存储器,其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求5或6所述方法的步骤。
9.一种存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求5或6所述方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于思必驰科技股份有限公司,未经思必驰科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010038403.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:柚皮素纳米脂质载体及其制备方法与应用
- 下一篇:导盲寻路方法和装置