[发明专利]基于隐式相关性反馈来提供QA训练数据以及训练QA模型在审
申请号: | 202010046175.1 | 申请日: | 2020-01-16 |
公开(公告)号: | CN113127614A | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 公明;寿林钧;程飞翔;姜大昕 | 申请(专利权)人: | 微软技术许可有限责任公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/335;G06F16/9532;G06F16/9535 |
代理公司: | 永新专利商标代理有限公司 72002 | 代理人: | 张立达 |
地址: | 美国华*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 相关性 反馈 提供 qa 训练 数据 以及 模型 | ||
本公开提供了用于基于隐式相关性反馈来提供QA训练数据以及训练QA模型的方法和装置。可以从搜索日志中获得问题‑文段对以及对应的用户行为。可以从所述用户行为中提取行为特征。可以通过隐式相关性反馈模型,基于所述行为特征来确定所述问题与所述文段之间的相关性分数。可以基于所述相关性分数,向所述问题‑文段对添加相关性标记。可以利用所获得的自动标记的QA训练数据来对QA模型进行预训练,并且利用人为标记的QA训练数据来对经预训练的QA模型进行精调。
背景技术
搜索引擎可以在搜索结果页面(SERP)中提供针对用户查询的搜索结果。传统的搜索结果包括指向与用户查询最相关的web文档的链接。此处,web文档也可以被称为例如网页等。链接可以指超链接、网址、URL等。近年来,一些web搜索引擎开始在SERP中进一步提供问题回答(QA:question answering)服务,其也被称为web QA服务。例如,如果查询具有问题意图,则web搜索引擎将会从web文档中提取最相关的文段(passage)以回答用户的问题,并且将该文段放置到SERP中的单独的QA块内。文段可以指从对应的web文档中提取的一个或多个语句、一个或多个段落、摘要等。QA服务越来越受到搜索引擎用户的欢迎,因为其可以避免点击web文档链接、浏览web文档、寻找答案等用户操作。
发明内容
提供本发明内容以便介绍一组概念,这组概念将在以下的具体实施方式中做进一步描述。本发明内容并非旨在标识所保护主题的关键特征或必要特征,也不旨在用于限制所保护主题的范围。
本公开的实施例提出了用于基于隐式相关性反馈来提供QA训练数据以及训练QA模型的方法和装置。可以从搜索日志中获得问题-文段对以及对应的用户行为。可以从所述用户行为中提取行为特征。可以通过隐式相关性反馈模型,基于所述行为特征来确定所述问题与所述文段之间的相关性分数。可以基于所述相关性分数,向所述问题-文段对添加相关性标记。可以利用所获得的自动标记的QA训练数据来对QA模型进行预训练,并且利用人为标记的QA训练数据来对经预训练的QA模型进行精调。
应当注意,以上一个或多个方面包括以下详细描述以及权利要求中具体指出的特征。下面的说明书及附图详细提出了所述一个或多个方面的某些说明性特征。这些特征仅仅指示可以实施各个方面的原理的多种方式,并且本公开旨在包括所有这些方面和其等同变换。
附图说明
以下将结合附图描述所公开的多个方面,这些附图被提供用以说明而非限制所公开的多个方面。
图1示出了示例性的搜索结果页面。
图2示出了根据实施例的提供QA训练数据的示例性过程。
图3示出了根据实施例的基于标记聚合策略来提供QA训练数据的示例性过程。
图4示出了根据实施例的基于分数聚合策略来提供QA训练数据的示例性过程。
图5示出了根据实施例的基于特征聚合策略来提供QA训练数据的示例性过程。
图6示出了根据实施例的训练QA模型的示例性过程。
图7示出了根据实施例的用于基于隐式相关性反馈来提供QA训练数据的示例性方法的流程图。
图8示出了根据实施例的用于基于隐式相关性反馈来训练QA模型的示例性方法的流程图。
图9示出了根据实施例的用于基于隐式相关性反馈来提供QA训练数据的示例性装置。
图10示出了根据实施例的用于基于隐式相关性反馈来训练QA模型的示例性装置。
图11示出了根据实施例的用于基于隐式相关性反馈来提供QA训练数据和/或训练QA模型的示例性装置。
具体实施方式
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司,未经微软技术许可有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010046175.1/2.html,转载请声明来源钻瓜专利网。
- 上一篇:管路支撑装置、管路支撑组件以及航空发动机
- 下一篇:电容器