[发明专利]一种中文字向量学习方法及装置有效
申请号: | 202110645779.2 | 申请日: | 2021-06-10 |
公开(公告)号: | CN113095065B | 公开(公告)日: | 2021-09-17 |
发明(设计)人: | 梁吉光;徐凯波 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F40/216 | 分类号: | G06F40/216;G06F40/289;G06F40/30;G06F40/284 |
代理公司: | 北京超成律师事务所 11646 | 代理人: | 裴素英 |
地址: | 100000 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文字 向量 学习方法 装置 | ||
1.一种中文字向量学习方法,其特征在于,包括:
将中文词语库中的词进行拆分,得到待学习汉字,并将所述待学习汉字存入汉字库;
根据所述中文词语库和汉字库,统计每个待学习汉字在所述中文词语库中的构词数,以及每个待学习汉字在每个词中的使用频次;
针对每个待学习汉字,根据该待学习汉字对应的构词数,计算该待学习汉字对应的反词语频率;该待学习汉字对应的反词语频率是该待学习汉字对应的构词数的倒数;
根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算,得到每个待学习汉字的字向量。
2.如权利要求1所述的方法,其特征在于,所述根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算,得到每个待学习汉字的字向量,包括:
针对每个待学习汉字,根据该待学习汉字的反词语频率与每个词中该待学习汉字的使用频次的乘积,和每个词中除该待学习汉字外每个其他汉字的反词语频率与该其他汉字在该词语中的使用频次的乘积,计算该待学习汉字在每个词中的构词权重;
针对每个待学习汉字,根据该待学习汉字在每个词中的构词权重和每个词对应的词向量,计算该待学习汉字的字向量。
3.如权利要求2所述的方法,其特征在于,针对每个待学习汉字,根据该待学习汉字在每个词中的构词权重和每个词对应的词向量,计算该待学习汉字的字向量,包括:
针对每个待学习汉字,计算所有包含该待学习汉字的词语所对应的加权词向量之和作为该待学习汉字的字向量;所述加权词向量是该待学习汉字在每个词中的构词权重与该词语对应的词向量的乘积。
4.如权利要求1所述的方法,其特征在于,在所述将中文词语库中的词进行拆分,得到待学习汉字,并将所述待学习汉字存入汉字库之前,还包括:
获取预训练词向量模型;
解析所述预训练词向量模型,得到词和对应的词向量,并将所述词和对应的词向量存入中文词语库。
5.一种中文字向量学习装置,其特征在于,包括:
拆分模块,用于将中文词语库中的词进行拆分,得到待学习汉字,并将所述待学习汉字存入汉字库;
统计模块,用于根据所述中文词语库和汉字库,统计每个待学习汉字在所述中文词语库中的构词数,以及每个待学习汉字在每个词中的使用频次;
计算模块,用于针对每个待学习汉字,根据该待学习汉字对应的构词数,计算该待学习汉字对应的反词语频率;该待学习汉字对应的反词语频率是该待学习汉字对应的构词数的倒数;
学习模块,用于根据所述每个待学习汉字在每个词中的使用频次、每个待学习汉字的反词语频率和每个词对应的词向量进行加权计算,得到每个待学习汉字的字向量。
6.如权利要求5所述的装置,其特征在于,所述学习模块,包括:
权重单元,用于针对每个待学习汉字,根据该待学习汉字的反词语频率与每个词中该待学习汉字的使用频次的乘积,和每个词中除该待学习汉字外每个其他汉字的反词语频率与该其他汉字在该词语中的使用频次的乘积,计算该待学习汉字在每个词中的构词权重;
学习单元,用于针对每个待学习汉字,根据该待学习汉字在每个词中的构词权重和每个词对应的词向量,计算该待学习汉字的字向量。
7.如权利要求6所述的装置,其特征在于,所述学习单元,包括:
加权计算子单元,用于针对每个待学习汉字,计算所有包含该待学习汉字的词语所对应的加权词向量之和作为该待学习汉字的字向量;所述加权词向量是该待学习汉字在每个词中的构词权重与该词语对应的词向量的乘积。
8.如权利要求5所述的装置,其特征在于,该装置还包括:
获取模块,用于获取预训练词向量模型;
解析模块,用于解析所述预训练词向量模型,得到词和对应的词向量,并将所述词和对应的词向量存入中文词语库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110645779.2/1.html,转载请声明来源钻瓜专利网。