[发明专利]数据处理方法和代词消解神经网络训练方法在审
申请号: | 201910319013.8 | 申请日: | 2019-04-19 |
公开(公告)号: | CN110162785A | 公开(公告)日: | 2019-08-23 |
发明(设计)人: | 张金超;孟凡东;周杰 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06N3/08 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 李文渊;何平 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 替代 词语 待检测文本 词语集合 消解 可读存储介质 神经网络训练 计算机设备 上下文词语 迭代处理 目标替代 特征向量 可能度 模长 集合 目标文本 神经网络 特征提取 数据处理 检测 申请 | ||
1.一种数据处理方法,包括:
获取待检测文本,确定所述待检测文本中待检测词语对应的上下文词语集合和候选替代词语集合;
将所述上下文词语集合和候选替代词语集合输入至代词消解神经网络中,所述代词消解神经网络分别对所述上下文词语集合和候选替代词语集合进行特征提取得到对应的第一特征和第二特征;
所述代词消解神经网络根据所述第一特征和第二特征进行正例迭代处理得到对应的正例特征向量模长,根据所述第一特征和第二特征进行反例迭代处理得到对应的反例特征向量模长,根据所述正例特征向量模长和所述反例特征向量模长计算得到所述候选替代词语集合中各个候选替代词语对应的替代可能度;
根据所述各个候选替代词语对应的替代可能度确定目标替代词语;
根据所述待检测词语对应的位置将所述目标替代词语插入所述待检测文本得到目标文本。
2.根据权利要求1所述的方法,其特征在于,所述代词消解神经网络分别对所述上下文词语集合和候选替代词语集合进行特征提取得到对应的第一特征和第二特征之后,还包括:
所述代词消解神经网络对所述第一特征和所述第二特征进行维度变换和长度缩放处理,得到对应的第一目标特征和第二目标特征;
所述代词消解神经网络根据所述第一特征和第二特征进行正例迭代处理得到对应的正例特征向量模长,根据所述第一特征和第二特征进行反例迭代处理得到对应的反例特征向量模长,包括:
所述代词消解神经网络根据所述第一目标特征和所述第二目标特征进行正例迭代处理得到对应的正例特征向量模长,根据所述第一目标特征和第二目标特征进行反例迭代处理得到对应的反例特征向量模长。
3.根据权利要求1所述的方法,其特征在于,所述确定所述待检测文本中待检测词语对应的上下文词语集合和候选替代词语集合,包括:
对所述待检测文本进行分割,得到多个词语;
对各个所述词语进行句法分析,根据句法分析结果确定所述待检测词语所在的位置;
根据所述待检测词语所在的位置获取上文词序列和下文词序列,根据所述上文词序列和下文词序列组成上下文词语集合;
根据所述句法分析结果获取候选替代词语,根据所述候选替代词语组成候选替代词语集合。
4.根据权利要求3所述的方法,其特征在于,所述代词消解神经网络分别对所述上下文词语集合和候选替代词语集合进行特征提取得到对应的第一特征和第二特征,包括:
所述代词消解神经网络通过前向特征表示子网络和后向特征表示子网络对所述上下文词语集合中的词序列进行压缩表示,得到对应的第一前向子特征和第一后向子特征;
所述代词消解神经网络对所述上下文词语集合中的所述词序列对应的字序列进行压缩表示,得到第一字向量子特征,将所述第一前向子特征、所述第一后向子特征和所述第一字向量子特征组成所述上下文词语集合对应的第一特征;
所述代词消解神经网络通过所述前向特征表示子网络和所述后向特征表示子网络对所述候选替代词语集合中的词序列进行压缩表示,得到对应的第二前向子特征和第二后向子特征;
所述代词消解神经网络对所述候选替代词语集合中的所述词序列对应的字序列进行压缩表示,得到第二字向量子特征,将所述第二前向子特征、所述第二后向子特征和所述第二字向量子特征组成所述候选替代词语集合对应的第二特征。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910319013.8/1.html,转载请声明来源钻瓜专利网。