[发明专利]文本的生成方法和装置在审
申请号: | 202111181916.8 | 申请日: | 2021-10-11 |
公开(公告)号: | CN113821604A | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 王逸凡 | 申请(专利权)人: | 京东科技控股股份有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F40/126;G06F40/30;G06N3/04;G06N3/08 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 王宇杨 |
地址: | 100176 北京市大兴区北京经*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 生成 方法 装置 | ||
1.一种文本的生成方法,其特征在于,包括:
获取用于生成文本的素材;
将所述素材输入至文本生成模型的编码器中,生成文本生成模型中的各个编码层的编码结果;其中,所述文本生成模型包括编码器和解码器,所述编码器包括多个编码层,所述解码器包括多个解码层;
基于各个编码层的编码结果对应的权重,确定输出至解码器的各个解码层的编码向量;
确定每个解码层的查询向量,基于所述编码向量和查询向量,确定所述每个所述解码层的输出结果,并将所述解码层的输出结果生成所述文本。
2.根据权利要求1所述的一种文本的生成方法,其特征在于,所述将所述素材输入至文本生成模型的编码器中,生成文本生成模型中的各个编码层的编码结果,具体包括:
获取所述素材的词嵌入向量;
将所述词嵌入向量输入至所述文本生成模型的第一层编码器中,的所述第一层编码层的编码结果;
获取前一个编码层的编码结果输入至后一个编码层中得到所述后一个编码层的输出结果。
3.根据权利要求1所述的一种文本的生成方法,其特征在于,所述基于各个编码层的编码结果对应的权重,确定输出至解码器的各个解码层的编码向量,包括:
确定一个解码层与所述各个编码层之间的交互权重;
根据所述交互权重和所述各个编码层的编码结果确定输出至解码器的各个解码层的编码向量。
4.根据权利要求1所述的一种文本的生成方法,其特征在于,所述根据所述交互权重和所述各个编码层的编码结果确定输出至解码器的各个解码层的编码向量,具体包括:
根据所述一个解码层与一个所述编码层的交互权重和所述编码层的编码结果确定所述编码层对所述解码层的加权后的编码结果;
根据所述编码层对所述解码层的加权后的编码结果确定输出至解码器的各个解码层的编码向量。
5.根据权利要求4所述的一种文本的生成方法,其特征在于,所述根据所述一个解码层与一个所述编码层的交互权重和所述编码层的编码结果确定所述编码层对所述解码层的加权后的编码结果,具体包括:
将编码层与所述解码层之间的交互权重与所述编码层的编码结果的乘积作为所述编码层对所述解码层的加权后的编码结果。
6.根据权利要求4所述的一种文本的生成方法,其特征在于,所述根据所述编码层对所述解码层的加权后的编码结果确定输出至解码器的各个解码层的编码向量,具体包括:
将所有编码层对所述解码层的加权后的编码结果进行加和处理,得到的总和作为输出至解码器的各个解码层的编码向量。
7.一种文本的生成装置,其特征在于,包括:
素材生成模块,用于获取用于生成文本的素材;
编码结果生成模块,用于将所述素材输入至文本生成模型的编码器中,生成文本生成模型中的各个编码层的编码结果;其中,所述文本生成模型包括编码器和解码器,所述编码器包括多个编码层,所述解码器包括多个解码层;
编码向量生成模块,用于基于各个编码层的编码结果对应的权重,确定输出至解码器的各个解码层的编码向量;
文本生成模块,用于确定每个解码层的查询向量,基于所述编码向量和查询向量,确定所述每个所述解码层的输出结果,并将所述解码层的输出结果生成所述文本。
8.根据权利要求7所述的一种文本的生成装置,其特征在于,所述编码结果生成模块,具体用于:
获取所述素材的词嵌入向量;
将所述词嵌入向量输入至所述文本生成模型的第一层编码器中,的所述第一层编码层的编码结果;
获取前一个编码层的编码结果输入至后一个编码层中得到所述后一个编码层的输出结果。
9.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至6任一项所述文本的生成方法的步骤。
10.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该计算机程序被处理器执行时实现如权利要求1至6任一项所述文本的生成方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东科技控股股份有限公司,未经京东科技控股股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111181916.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种木板喷漆装置
- 下一篇:一种整构式N改性TS-1催化剂载体及其制备方法