[发明专利]文本生成方法及相关装置有效
申请号: | 202310714379.1 | 申请日: | 2023-06-16 |
公开(公告)号: | CN116450779B | 公开(公告)日: | 2023-09-12 |
发明(设计)人: | 颜子涵;亓克娜;王卿云 | 申请(专利权)人: | 北京搜狐新媒体信息技术有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06N3/0455;G06F16/338 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 崔清杨 |
地址: | 100190 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 生成 方法 相关 装置 | ||
本发明公开了一种文本生成方法及相关装置,可以通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;通过第一解码器对第一特征进行交叉注意力机制计算,得到对应的问题文本;将第一特征和问题文本融合,得到第二特征;通过第二解码器对第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本。本发明可以基于第一编码器对新闻文本的内容进行充分理解后提取丰富的特征,然后基于第一解码器准确生成相应的问题文本,并且将问题文本与特征充分融合后,基于第二解码器生成相应的观点文本,如此得到的观点文本是对问题进行充分理解后得到的,生成问题文本和观点文本的准确性较高,且观点文本的对抗性清晰,易于区分。
技术领域
本发明涉及互联网领域,特别涉及一种文本生成方法及相关装置。
背景技术
随着互联网的高速发展越来,越多的用户使用不同的社交网络平台进行用户之前的交互,创建讨论问题和对应的观点选项可以更快的让用户参与到新发生的事件中进行观点的分享和讨论,提高社区的用户活跃量。
目前的生成模型都是一步推理问题和选项,导致问题并没有经过内容理解。即,模型在还没有完全理解问题的情况下就输出观点选项,存在答非所问的情况。因此,如何准确生成讨论问题和对应的观点选项成为了本领域人员亟待解决的技术问题。
发明内容
鉴于上述问题,本发明提供一种文本生成方法及相关装置,可以准确生成问题文本和观点文本,有效解决现有技术中存在的问题。
第一方面,一种文本生成方法,包括:
通过第一编码器对新闻文本进行特征提取,得到相应的第一特征;
通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本;
将所述第一特征和所述问题文本融合,得到第二特征;
通过第二解码器对所述第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本,其中,所述观点文本是针对所述问题文本的观点。
结合第一方面,在某些可选的实施方式中,所述通过第一编码器对新闻文本进行特征提取,得到相应的第一特征,包括:
通过所述第一编码器,对所述新闻文本的标题文本和内容文本进行特征提取,得到相应的所述第一特征和第一向量组,其中,所述第一向量组包括多个Q向量、多个K向量和多个V向量。
结合上一个实施方式,在某些可选的实施方式中,所述通过第一解码器对所述第一特征进行交叉注意力机制计算,得到对应的问题文本,包括:
通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算,得到所述问题文本。
结合上一个实施方式,在某些可选的实施方式中,所述通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算,得到所述问题文本,包括:
通过所述第一解码器对所述第一特征和所述第一向量组,进行所述交叉注意力机制计算后,进行集束搜索,得到所述问题文本。
结合第一方面,在某些可选的实施方式中,所述将所述第一特征和所述问题文本融合,得到第二特征,包括:
将所述问题文本转成对应的问题文本特征;
将所述第一特征与所述问题文本特征进行拼接融合,得到所述第二特征。
结合第一方面,在某些可选的实施方式中,所述通过第二解码器对所述第二特征进行交叉注意力机制计算,得到两条观点对立的观点文本,包括:
通过所述第二解码器对所述第二特征进行所述交叉注意力机制计算后,进行集束搜索,得到两条观点对立的所述观点文本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京搜狐新媒体信息技术有限公司,未经北京搜狐新媒体信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310714379.1/2.html,转载请声明来源钻瓜专利网。