[发明专利]基于自然语言处理的语句补全方法、装置、设备及介质有效
申请号: | 202110485781.8 | 申请日: | 2021-04-30 |
公开(公告)号: | CN113204619B | 公开(公告)日: | 2022-05-20 |
发明(设计)人: | 孙超;王健宗;于凤英;程宁 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/332;G06F40/211;G06F40/30;G06K9/62;G06N3/04 |
代理公司: | 深圳市明日今典知识产权代理事务所(普通合伙) 44343 | 代理人: | 王杰辉;宋庆洪 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 自然语言 处理 语句 方法 装置 设备 介质 | ||
1.一种基于自然语言处理的语句补全方法,其特征在于,包括:
获取待处理的目标语句和所述目标语句对应的会话语句,所述会话语句包括上文语句和/或下文语句;
利用自然语言处理模型将所述目标语句转换为第一词向量,以及将所述会话语句转换为第二词向量;
提取所述第一词向量对应的第一语境信息、所述第二词向量对应的第二语境信息,以及提取所述第一词向量和所述第二词向量之间的第三语境信息,并根据所述第一语境信息和所述第三语境信息生成第一隐藏状态,以及根据所述第二语境信息和所述第三语境信息生成第二隐藏状态;
根据所述第一隐藏状态和所述第二隐藏状态,生成与所述目标语句和所述会话语句相关的特征向量;
基于所述特征向量获取全局信息,以将所述特征向量转换为与所述目标语句和所述会话语句相关的字向量矩阵;
利用连通域标记算法查询所述字向量矩阵中的连通区域;
根据所述会话语句中与所述连通区域关联的字向量,对所述目标语句进行语句补全处理,得到语句补全结果。
2.如权利要求1所述的基于自然语言处理的语句补全方法,其特征在于,所述根据所述第一隐藏状态和所述第二隐藏状态,生成与所述目标语句和所述会话语句相关的特征向量的步骤包括:
根据所述第一隐藏状态和所述第二隐藏状态,确定所述第一词向量和所述第二词向量之间的字级相似性,以及确定所述第一词向量和所述第二词向量之间的余弦相似性,以及确定所述第一词向量和所述第二词向量之间的双线性相似性;
根据所述字级相似性、所述余弦相似性和所述双线性相似性,生成特征向量。
3.如权利要求1所述的基于自然语言处理的语句补全方法,其特征在于,所述基于所述特征向量获取全局信息,以将所述特征向量转换为与所述目标语句和所述会话语句相关的字向量矩阵的步骤包括:
利用所述自然语言处理模型的切分层提取所述特征向量对应的全局信息,并基于所述全局信息,将所述特征向量转换为与所述目标语句和所述会话语句相关的字向量矩阵;
其中,所述切分层包括自所述切分层的输入端开始依次连接的两个下采样模块、两个上采样模块和全连接模块;所述下采样模块包括依次连接的两个卷积单元,以及全局池化单元;所述上采样模块包括依次连接的两个卷积单元,以及反卷积单元;所述全连接模块包括依次连接的两个卷积单元,以及前馈神经网络单元。
4.如权利要求1所述的基于自然语言处理的语句补全方法,其特征在于,所述根据所述会话语句中与所述连通区域关联的字向量,对所述目标语句进行语句补全处理,得到语句补全结果的步骤包括:
根据所述会话语句中与每个所述连通区域关联的字向量,以及所述目标语句中与每个所述连通区域关联的字向量,确定每个所述连通区域对应的编辑操作,其中,所述编辑操作的类型包括替换操作和插入操作;
根据所述会话语句中与每个所述连通区域关联的字向量,以及每个所述连通区域对应的所述编辑操作,对所述目标语句进行语句补全处理,得到语句补全结果。
5.如权利要求1-4中任一项所述的基于自然语言处理的语句补全方法,其特征在于,所述根据所述会话语句中与所述连通区域关联的字向量,对所述目标语句进行语句补全处理,得到语句补全结果的步骤之后,还包括:
确定所述语句补全结果对应的响应操作;
根据所述响应操作对所述目标语句对应的会话任务进行响应处理。
6.如权利要求5所述的基于自然语言处理的语句补全方法,其特征在于,所述根据所述响应操作对所述目标语句对应的会话任务进行响应处理的步骤之后,还包括:
接收到所述响应处理对应的确定响应时,根据所述语句补全结果、所述目标语句和所述会话语句生成训练样本;
利用所述训练样本更新所述自然语言处理模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110485781.8/1.html,转载请声明来源钻瓜专利网。