[发明专利]GloVe词向量模型增量训练方法、装置、介质及电子设备有效
申请号: | 201910462773.4 | 申请日: | 2019-05-30 |
公开(公告)号: | CN110321551B | 公开(公告)日: | 2022-12-06 |
发明(设计)人: | 崔勇;杨光;杨雪松 | 申请(专利权)人: | 泰康保险集团股份有限公司;泰康资产管理有限责任公司 |
主分类号: | G06F40/284 | 分类号: | G06F40/284 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 100030 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | glove 向量 模型 增量 训练 方法 装置 介质 电子设备 | ||
1.一种GloVe词向量模型增量训练方法,包括:
获取历史语料文本中出现的词的词频以及增量语料文本中出现的词的词频,以得到所述增量语料文本与所述历史语料文本中出现的词的词频;
获取历史语料文本中词与词的共现次数以及所述增量语料文本中词与词的共现次数,以得到所述增量语料文本与所述历史语料文本中词与词的共现次数;
根据所述增量语料文本与所述历史语料文本中出现的词的词频以及词与词的共现次数构建共现矩阵;以及
基于所述共现矩阵以及所述增量语料文本与所述历史语料文本中出现的词的词频训练GloVe词向量模型。
2.根据权利要求1所述的方法,其特征在于,获取历史语料文本中出现的词的词频以及增量语料文本中出现的词的词频,以得到所述增量语料文本与所述历史语料文本合并后出现的词的词频包括:
获取历史语料文本中出现的词及对应的词频;
对所述增量语料文本进行遍历,统计所述增量语料文本中出现的词及对应的词频;
将所述增量语料文本中出现的词及对应的词频与所述历史语料文本中出现的词及对应的词频进行合并,得到所述增量语料文本与所述历史语料文本中出现的词的词频。
3.根据权利要求2所述的方法,其特征在于,将所述增量语料文本中出现的词及对应的词频与所述历史语料文本中出现的词及对应的词频进行合并包括:
对于在所述历史语料文本中出现而在所述增量语料文本中未出现的词或者对于在所述增量语料文本中出现而在所述历史语料文本中未出现的词,计算该词出现的次数,根据该词出现的次数以及所述增量语料文本与所述历史语料文本中所有词的个数,得到该词在所述增量语料文本与所述历史语料文本中的词频;
对于既在所述增量语料文本中出现又在所述历史语料文本中出现的词,计算该词分别在两种语料文本中出现的次数之和,根据所述次数之和以及所述增量语料文本与所述历史语料文本中所有词的个数,得到该词在所述增量语料文本与所述历史语料文本中的词频。
4.根据权利要求1-3中任一项所述的方法,其特征在于,获取历史语料文本中词与词的共现次数以及所述增量语料文本中词与词的共现次数,以得到所述增量语料文本与所述历史语料文本中词与词的共现次数包括:
获取历史语料文本中词与词的共现次数;
对所述增量语料文本进行遍历,统计所述增量语料文本中词与词的共现次数;
将所述增量语料文本中的词与词的共现次数与所述历史语料文本中的词与词的共现次数进行合并,得到所述增量语料文本和所述历史语料文本中的词与词的共现次数。
5.根据权利要求4所述的方法,其特征在于,将所述增量语料文本中的词与词的共现次数与所述历史语料文本中的词与词的共现次数进行合并包括:
对于既在所述增量语料文本中出现又在所述历史语料文本中出现的共现词对,将所述共现词对分别在两种语料文本中的共现次数相加,作为所述共现词对在所述增量语料文本和所述历史语料文本中的共现次数。
6.根据权利要求1-3中任一项所述的方法,其特征在于,基于所述共现矩阵以及所述增量语料文本与所述历史语料文本中出现的词的词频训练GloVe词向量模型包括:
重新整理所述共现矩阵;
根据重新整理后的共现矩阵以及所述增量语料文本与所述历史语料文本中出现的词的词频训练所述GloVe词向量模型。
7.根据权利要求1-3中任一项所述的方法,其特征在于,利用多线程训练所述GloVe词向量模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于泰康保险集团股份有限公司;泰康资产管理有限责任公司,未经泰康保险集团股份有限公司;泰康资产管理有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910462773.4/1.html,转载请声明来源钻瓜专利网。