[发明专利]问答匹配系统和方法及问答处理设备和介质有效
申请号: | 201811340892.4 | 申请日: | 2018-11-12 |
公开(公告)号: | CN111177328B | 公开(公告)日: | 2023-04-28 |
发明(设计)人: | 方晗吟;刘洋;蒋冠军 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06F16/33;G06N3/0464 |
代理公司: | 北京展翼知识产权代理事务所(特殊普通合伙) 11452 | 代理人: | 屠长存 |
地址: | 英属开曼群岛大开*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 问答 匹配 系统 方法 处理 设备 介质 | ||
本发明公开了问答匹配系统和方法及问答处理设备和介质。一种问答匹配系统,包括卷积神经网络,所述卷积神经网络包括:分别处于问询侧和答案侧的词嵌入层,被配置为在该层利用预训练的用于表述基础特征的统一词向量来对输入的问询和对应于该问询的至少一个备选答案之一分别进行初始化,以得到所述问询和相应备选答案的向量表述;分别处于问询侧和答案侧的卷积层,被配置为对所述的问询的特征表述和所述相应备选答案的特征表述进行卷积操作以提取特征;以及全连接层,问询侧和答案侧的卷积结果均输入全连接层,并从全连接层输出匹配结果,其中,两个词嵌入层共享预训练的所述词向量,而两个卷积层不共享权重参数和偏置参数。
技术领域
本发明涉及信息检索领域,尤其涉及智能化业务场景下的问答匹配系统和方法及问答处理设备和介质。
背景技术
在智能化业务场景中,存在着大量的一问一答需求,即,用户输入一个问询(query,例如用户的输入请求串),希望得到一个简短的答案来满足获取信息的需求。在解决这一问题的过程中,一个重要的中间步骤是如何判断一个短答案(例如单个句子的形式)是否与用户的问询相匹配。
已有的传统方法主要基于人工规则特征,例如,实体识别(Named EntityRecognition,简称NER)结果、词频-逆文档频率(Term Frequency-Inverse DocumentFrequency,即TF-IDF)以及模板匹配等,这些方法具有以下缺陷:
1)需要大量的人力来观察样本然后设计规则特征;
2)不同特征之间的表达能力参差不齐,在海量数据上的泛化能力不足;
3)模型整体效果受限于前期特征提取模型的准确率,例如,NER模型。
发明内容
为了解决以上问题之一,本发明提供了问答匹配系统和方法及问答处理设备和介质。
本发明提供一种问答匹配系统,用于针对用户的问询来提供匹配的答案,该系统包括卷积神经网络,所述卷积神经网络包括:分别处于问询侧和答案侧的词嵌入层,被配置为在该层利用预训练的用于表述基础特征的统一词向量来对输入的问询和对应于该问询的至少一个备选答案之一分别进行初始化,以得到所述问询和相应备选答案的向量表述;分别处于问询侧和答案侧的卷积层,被配置为对所述的问询的特征表述和所述相应备选答案的特征表述进行卷积操作以提取特征;以及全连接层,经过卷积层卷积之后的问询侧和答案侧的卷积结果均输入全连接层,并从全连接层输出匹配结果,其中,所述问询侧和答案侧的两个词嵌入层共享预训练的所述词向量,而所述问询侧和答案侧的两个卷积层不共享配置参数。
可选地,两个卷积层不共享的配置参数包括权重参数和/或偏置参数。
可选地,所述问答匹配系统利用预先构造的数据集中的正负样本作为训练数据来端到端地训练卷积神经网络模型,由此得到与用户的问询匹配的答案。
可选地,所述问答匹配系统还包括数据集构建模块,该数据集构建模块被配置为从已有的问答数据中获取问询和与其对应的最佳答案并组成一对正样本,并将从问答数据中非该问询的答案中随机采样到的答案作为负样本,还从问答数据中采样与该问询的字面相似的答案作为负样本,从而构造出该问询对应的数据集,并将构造的数据集应用于所述卷积神经网络。
可选地,所述问答匹配系统还包括词向量预训练模块,该词向量预训练模块被配置为收集用户输入的问询数据作为训练词向量的一个语料来源,然后结合作为训练词向量的另一个语料来源的百科数据,采用词向量嵌入方法来训练得到词向量。
可选地,所述词向量预训练模块在收集用户问询时,根据查询次数来过滤问询。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811340892.4/2.html,转载请声明来源钻瓜专利网。