[发明专利]一种数据处理方法、装置、终端及可读存储介质有效
申请号: | 202010071396.4 | 申请日: | 2020-01-21 |
公开(公告)号: | CN111291195B | 公开(公告)日: | 2021-08-10 |
发明(设计)人: | 王业全;魏望;马腾;王莉峰 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/36 | 分类号: | G06F16/36;G06F16/33;G06F40/289;G06N3/04;G06N3/08 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 熊永强;杜维 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 终端 可读 存储 介质 | ||
1.一种数据处理方法,其特征在于,包括:
获取待处理文本,所述待处理文本包括至少一个第一分词,所述待处理文本为等待进行关键词提取的一个句子或多个句子的组合;
调用关键词预测模型和词典数据库对所述待处理文本中的第一分词进行编码及关键词预测,得到所述待处理文本对应的关键词集合,所述关键词集合中的关键词为所述至少一个第一分词中的分词,和/或根据所述词典数据库学习得到的,所述词典数据库包括预先构建的用于进行关键词预测的文本集合;其中,所述调用关键词预测模型和词典数据库对所述待处理文本中的第一分词进行编码及关键词预测,得到所述待处理文本对应的关键词集合,包括:调用关键词预测模型的分词编码网络,基于目标粒度对所述待处理文本中的至少一个第一分词进行编码,得到至少一个第二分词,所述第二分词为对所述至少一个第一分词中的任一个或多个第一分词重组得到的;根据词典数据库对所述至少一个第二分词进行深层语义学习,得到候选词集合,所述候选词集合中包括至少一个候选词;对所述候选词集合中的候选词进行关键词分类,得到所述待处理文本对应的关键词集合;
利用所述关键词集合对所述词典数据库进行更新,得到更新后的词典数据库;
当检测到局部检索词时,利用所述更新后的词典数据库确定出与所述局部检索词匹配的检索结果。
2.根据权利要求1所述的方法,其特征在于,所述关键词预测模型包括分词编码网络和卷积神经网络,所述调用关键词预测模型和词典数据库对所述待处理文本中的第一分词进行编码及关键词预测,得到所述待处理文本对应的关键词集合包括:
调用所述分词编码网络,基于目标粒度对所述待处理文本中的至少一个第一分词进行编码,得到至少一个第二分词,所述第二分词为对所述至少一个第一分词中的任一个或多个第一分词重组得到的;
调用所述卷积神经网络,对所述至少一个第二分词进行学习和关键词预测,得到所述待处理文本对应的关键词集合。
3.根据权利要求2所述的方法,其特征在于,所述基于目标粒度对所述待处理文本中的至少一个第一分词进行编码,得到至少一个第二分词包括:
基于第一粒度对所述待处理文本中的至少一个第一分词进行词根提取,得到每个所述第一分词包括的至少一个词根,并记录每个所述第一分词的分词顺序;
按照每个所述第一分词的分词顺序,基于第二粒度对每个所述第一分词包括的至少一个词根进行编码和重组,得到至少一个第二分词。
4.根据权利要求3所述的方法,其特征在于,所述基于第二粒度按照每个所述第一分词的分词顺序,对每个所述第一分词包括的至少一个词根进行编码和重组,得到至少一个第二分词包括:
对每个所述第一分词包括的至少一个词根进行编码,得到每个词根对应的词根向量;
基于第二粒度获取n个词根的词根向量;
对所述n个词根的词根向量进行求平均,得到第二分词对应的分词向量,所述第二分词为对n个词根进行重组得到。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述利用所述关键词集合对所述词典数据库进行更新,得到更新后的词典数据库,包括:
在第一关键词不位于所述词典数据库时,将所述第一关键词添加至词典数据库中存储,所述第一关键词为关键词集合中的任一个关键词。
6.根据权利要求1所述的方法,其特征在于,所述当检测到局部检索词时,利用所述更新后的词典数据库确定出与所述局部检索词匹配的检索结果,包括:
获取局部检索词;
从所述更新后的词典数据库中匹配出与所述局部检索词相关联的目标文本;
将所述目标文本作为与所述局部检索词匹配的检索结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010071396.4/1.html,转载请声明来源钻瓜专利网。