[发明专利]问答匹配系统和方法及问答处理设备和介质有效

专利信息
申请号: 201811340892.4 申请日: 2018-11-12
公开(公告)号: CN111177328B 公开(公告)日: 2023-04-28
发明(设计)人: 方晗吟;刘洋;蒋冠军 申请(专利权)人: 阿里巴巴集团控股有限公司
主分类号: G06F16/332 分类号: G06F16/332;G06F16/35;G06F16/33;G06N3/0464
代理公司: 北京展翼知识产权代理事务所(特殊普通合伙) 11452 代理人: 屠长存
地址: 英属开曼群岛大开*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 问答 匹配 系统 方法 处理 设备 介质
【说明书】:

发明公开了问答匹配系统和方法及问答处理设备和介质。一种问答匹配系统,包括卷积神经网络,所述卷积神经网络包括:分别处于问询侧和答案侧的词嵌入层,被配置为在该层利用预训练的用于表述基础特征的统一词向量来对输入的问询和对应于该问询的至少一个备选答案之一分别进行初始化,以得到所述问询和相应备选答案的向量表述;分别处于问询侧和答案侧的卷积层,被配置为对所述的问询的特征表述和所述相应备选答案的特征表述进行卷积操作以提取特征;以及全连接层,问询侧和答案侧的卷积结果均输入全连接层,并从全连接层输出匹配结果,其中,两个词嵌入层共享预训练的所述词向量,而两个卷积层不共享权重参数和偏置参数。

技术领域

本发明涉及信息检索领域,尤其涉及智能化业务场景下的问答匹配系统和方法及问答处理设备和介质。

背景技术

在智能化业务场景中,存在着大量的一问一答需求,即,用户输入一个问询(query,例如用户的输入请求串),希望得到一个简短的答案来满足获取信息的需求。在解决这一问题的过程中,一个重要的中间步骤是如何判断一个短答案(例如单个句子的形式)是否与用户的问询相匹配。

已有的传统方法主要基于人工规则特征,例如,实体识别(Named EntityRecognition,简称NER)结果、词频-逆文档频率(Term Frequency-Inverse DocumentFrequency,即TF-IDF)以及模板匹配等,这些方法具有以下缺陷:

1)需要大量的人力来观察样本然后设计规则特征;

2)不同特征之间的表达能力参差不齐,在海量数据上的泛化能力不足;

3)模型整体效果受限于前期特征提取模型的准确率,例如,NER模型。

发明内容

为了解决以上问题之一,本发明提供了问答匹配系统和方法及问答处理设备和介质。

本发明提供一种问答匹配系统,用于针对用户的问询来提供匹配的答案,该系统包括卷积神经网络,所述卷积神经网络包括:分别处于问询侧和答案侧的词嵌入层,被配置为在该层利用预训练的用于表述基础特征的统一词向量来对输入的问询和对应于该问询的至少一个备选答案之一分别进行初始化,以得到所述问询和相应备选答案的向量表述;分别处于问询侧和答案侧的卷积层,被配置为对所述的问询的特征表述和所述相应备选答案的特征表述进行卷积操作以提取特征;以及全连接层,经过卷积层卷积之后的问询侧和答案侧的卷积结果均输入全连接层,并从全连接层输出匹配结果,其中,所述问询侧和答案侧的两个词嵌入层共享预训练的所述词向量,而所述问询侧和答案侧的两个卷积层不共享配置参数。

可选地,两个卷积层不共享的配置参数包括权重参数和/或偏置参数。

可选地,所述问答匹配系统利用预先构造的数据集中的正负样本作为训练数据来端到端地训练卷积神经网络模型,由此得到与用户的问询匹配的答案。

可选地,所述问答匹配系统还包括数据集构建模块,该数据集构建模块被配置为从已有的问答数据中获取问询和与其对应的最佳答案并组成一对正样本,并将从问答数据中非该问询的答案中随机采样到的答案作为负样本,还从问答数据中采样与该问询的字面相似的答案作为负样本,从而构造出该问询对应的数据集,并将构造的数据集应用于所述卷积神经网络。

可选地,所述问答匹配系统还包括词向量预训练模块,该词向量预训练模块被配置为收集用户输入的问询数据作为训练词向量的一个语料来源,然后结合作为训练词向量的另一个语料来源的百科数据,采用词向量嵌入方法来训练得到词向量。

可选地,所述词向量预训练模块在收集用户问询时,根据查询次数来过滤问询。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811340892.4/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top