[发明专利]阅读任务处理方法及相关设备在审
申请号: | 202011035442.1 | 申请日: | 2020-09-27 |
公开(公告)号: | CN112149426A | 公开(公告)日: | 2020-12-29 |
发明(设计)人: | 邱耀 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/30 | 分类号: | G06F40/30;G06F16/332;G06N3/04 |
代理公司: | 北京市立方律师事务所 11330 | 代理人: | 张筱宁 |
地址: | 518000 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 阅读 任务 处理 方法 相关 设备 | ||
本申请涉及人工智能技术领域,提供了一种阅读任务处理方法及相关设备,该阅读任务处理方法包括:获取阅读信息、与阅读信息相关联的目标问题信息和历史对话信息;执行迭代处理步骤直至完成对所有轮次历史对话信息的处理,并将基于最后轮次的历史对话信息确定的阅读信息的当前时刻信息表示作为历史对话信息在阅读信息中的第一信息表示;基于第一信息表示确定目标问题信息在阅读信息中的第二信息表示;基于第二信息表示在阅读信息中确定用于答复目标问题信息的答复信息。本申请的实施有利于提高基于目标问题信息预测答复结果的准确度。
技术领域
本申请涉及人工智能技术领域,具体而言,本申请涉及一种阅读任务处理方法及相关设备。
背景技术
随着人工智能技术的发展,人工智能技术已应用于多个技术领域。当将人工智能技术应用于对话式阅读理解的领域时,一般通过人工智能技术让机器执行阅读理解任务。阅读理解任务主要是指让机器根据指定的阅读信息回答与该阅读信息相关的问题。在机器执行该阅读理解任务时,需要通过模型建模问题信息和阅读信息、问题信息和历史对话信息的关系。
现有技术中,建模问题信息和阅读信息、问题信息和历史对话信息的关系时,一般采用拼接式方法和历史编码方法。其中,拼接式方式是基于预训练的语言模型进行,使用该模型的自注意力机制同时建模问题信息和阅读信息、问题信息和历史对话信息的关系;但是由于模型对于输入的序列有一个最大长度的限制,当阅读信息的内容较多或历史对话信息的轮次较多时,无法考虑全部的对话历史,限制了模型的性能,使得模型基于问题信息预测的答复结果准确度较低。历史编码方法是基于HAE(History Answer Embedding)原理进行,该方法丢失了历史对话信息的时间深度信息(每一轮的历史对话信息与当前轮次对话信息的距离),还容易让模型在建模时学习到预测数据的捷径,如在现有的数据集中每轮对话的预测答复结果在阅读信息中的位置和历史对话轮次有正相关的关系,即第i轮问题信息的答复结果往往在第i-1轮问题信息的答复结果后面不远的位置,因而模型无法学习到期望的语义分析能力,导致模型基于问题信息预测的答复结果准确度较低。
发明内容
本申请提供了一种阅读任务处理方法及相关设备,可以解决上述至少一种技术问题。所述技术方案如下:
第一方面,提供了一种阅读任务处理方法,包括:获取阅读信息、与所述阅读信息相关联的目标问题信息和至少一轮历史对话信息;
执行迭代处理步骤直至完成对所有轮次历史对话信息的处理,并将基于最后轮次的历史对话信息确定的阅读信息的当前时刻信息表示作为所述至少一轮历史对话信息在所述阅读信息中的第一信息表示,所述迭代处理步骤包括:根据历史对话信息的时间顺序获取当前轮次的历史对话信息;基于所述当前轮次的历史对话信息与阅读信息的上一时刻信息表示确定所述阅读信息的当前时刻信息表示;
基于所述第一信息表示确定所述目标问题信息在所述阅读信息中的第二信息表示;
基于所述第二信息表示在所述阅读信息中确定用于答复所述目标问题信息的答复信息。
结合第一方面,在第一方面的第一种实施方式中,采用阅读任务处理模型执行所述阅读任务处理方法的步骤,所述阅读任务处理模型包括阅读信息更新模块,所述阅读信息更新模块包括基于所述历史对话信息级联设置的循环神经网络;采用级联设置的循环神经网络确定所述第一信息表示与第二信息表示。
结合第一方面的第一种实施方式,在第一方面的第二种实施方式中,所述阅读任务处理模型还包括词嵌入模块;所述历史对话信息包括历史问题信息;所述采用级联设置的循环神经网络确定所述第一信息表示,包括:
针对当前轮次的历史对话信息,通过所述词嵌入模块对历史问题信息进行处理,确定所述历史问题信息的第三信息表示;通过级联设置的循环神经网络基于所述阅读信息的上一时刻信息表示与所述第三信息表示确定所述阅读信息的当前时刻信息表示;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011035442.1/2.html,转载请声明来源钻瓜专利网。