[发明专利]问题语句的改写方法、装置、设备和存储介质在审
申请号: | 201910431357.8 | 申请日: | 2019-05-22 |
公开(公告)号: | CN110263330A | 公开(公告)日: | 2019-09-20 |
发明(设计)人: | 李倩;苏辉;牛成 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F16/332;G06N3/04;G06N3/08 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 李文渊;何平 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 问题语句 时间步 复制 编码表示 单词 改写 存储介质 记忆网络 目标单词 语句 指针 概率确定 继续执行 历史信息 双向编码 准确率 概率 申请 网络 答案 携带 预测 | ||
本申请涉及一种问题语句的改写方法、装置、设备和存储介质,该方法包括:分别对问题语句和历史语句进行双向编码,得到问题语句和历史语句中各单词的编码表示;基于长短期记忆网络和指针网络,根据编码表示确定当前时间步各单词的复制概率;根据复制概率确定当前时间步需要进行复制的目标单词;将下一时间步确定为当前时间步;继续执行基于长短期记忆网络和指针网络,根据编码表示确定当前时间步各单词的复制概率的步骤;直到确定完所有时间步需要进行复制的目标单词时,得到携带有关键历史信息的改写后的问题语句。采用本申请的方案,使基于问题语句得到的预测答案准确率更高。
技术领域
本申请涉及计算机技术领域,特别是涉及一种问题语句的改写方法、装置、设备和存储介质。
背景技术
随着计算机技术的发展,出现了自然语言处理(Natural Language Proces sing,NLP)技术。自然语言处理(NLP)技术实现了人们长期以来所追求的“用自然语言与计算机进行通信”,例如通过训练好的模型实现人机对话、智能语言翻译和对话阅读理解等等。
但是,在问题语句不完整的情况下,传统的自然语言处理技术一般是通过已训练的问题改写模型对问题语句进行改写,得到较完整的问题语句。而在传统的自然语言处理技术中,问题改写模型通常是基于人工标注的问题标签进行监督训练得到的。由于人工标注的问题标签存在错误性、少量性等问题,使得问题改写模型输出的改写后的问题语句的准确率低。
发明内容
基于此,有必要针对上述技术问题,提供一种能够提高问题改写模型的改写准确率的问题改写模型的优化方法、装置、计算机可读存储介质和计算机设备,以及一种问题语句的改写方法、装置、计算机可读存储介质和计算机设备。
一种问题改写模型的优化方法,包括:
将训练数据输入问题改写模型;所述训练数据包括问题语句和历史语句;
通过所述问题改写模型根据所述历史语句对所述问题语句进行改写,得到携带有关键历史信息的改写后的问题语句;
将所述改写后的问题语句输入答案预测模型,得到所述改写后的问题语句的预测答案;
根据所述预测答案和标准答案确定奖赏值,并基于所述奖赏值对所述问题改写模型进行优化;
继续执行将训练数据输入问题改写模型的步骤;直到所述奖赏值符合收敛条件。
一种问题改写模型的优化装置,所述装置包括:
训练数据输入模块,用于将训练数据输入问题改写模型;所述训练数据包括问题语句和历史语句;
问题语句改写模块,用于通过所述问题改写模型根据所述历史语句对所述问题语句进行改写,得到携带有关键历史信息的改写后的问题语句;
预测答案获取模块,用于将所述改写后的问题语句输入答案预测模型,得到所述改写后的问题语句的预测答案;
模型优化模块,用于根据所述预测答案和标准答案确定奖赏值,并基于所述奖赏值对所述问题改写模型进行优化;
所述训练数据输入模块还用于继续执行将训练数据输入问题改写模型的步骤;直到所述奖赏值符合收敛条件。
一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行如下步骤:
将训练数据输入问题改写模型;所述训练数据包括问题语句和历史语句;
通过所述问题改写模型根据所述历史语句对所述问题语句进行改写,得到携带有关键历史信息的改写后的问题语句;
将所述改写后的问题语句输入答案预测模型,得到所述改写后的问题语句的预测答案;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910431357.8/2.html,转载请声明来源钻瓜专利网。