[发明专利]词向量处理方法、装置以及电子设备

说明书

本申请实施例公开了词向量处理方法、装置以及电子设备。所述方法包括：对语料分词得到各词；确定所述各词对应的各n元仓颉码字符，所述n元仓颉码字符表征其对应的词的连续n个仓颉码字符；建立并初始化所述各词的词向量，以及所述各词对应的各n元仓颉码字符的仓颉码字符向量；根据所述词向量、所述仓颉码字符向量，以及分词后的所述语料，对所述词向量和所述仓颉码字符向量进行训练。利用本申请实施例，可以实现通过词对应的n元仓颉码字符更精细地表现该词的特征，尤其可以表现该词的字形形态特征，进而有利于提高中文词的词向量的准确度，实用效果较好。

技术领域

本申请涉及计算机软件技术领域，尤其涉及词向量处理方法、装置以及电子设备。

背景技术

如今的自然语言处理的解决方案，大都采用基于神经网络的架构，而在这种架构下一个重要的基础技术就是词向量。词向量是将词映射到一个固定维度的向量，该向量表征了该词的语义信息。

在现有技术中，常见的用于生成词向量的算法是专门针对英文设计的。比如，谷歌公司的单词向量算法、微软公司的深度神经网络算法等。

但是，现有技术的这些算法或者无法用于中文，或者虽能用于中文，但是，所生成中文词的词向量的实用效果较差。

发明内容

本申请实施例提供词向量处理方法、装置以及电子设备，用以解决现有技术中用于生成词向量的算法或者无法用于中文，或者虽能用于中文，但是，所生成中文词的词向量的实用效果较差的问题。

为解决上述技术问题，本申请实施例是这样实现的：

本申请实施例提供的一种词向量处理方法，包括：

对语料分词得到各词；

确定所述各词对应的各n元仓颉码字符，所述n元仓颉码字符表征其对应的词的连续n个仓颉码字符；

建立并初始化所述各词的词向量，以及所述各词对应的各n元仓颉码字符的仓颉码字符向量；

根据所述词向量、所述仓颉码字符向量，以及分词后的所述语料，对所述词向量和所述仓颉码字符向量进行训练。

本申请实施例提供的一种词向量处理装置，包括：

分词模块，对语料分词得到各词；

确定模块，确定所述各词对应的各n元仓颉码字符，所述n元仓颉码字符表征其对应的词的连续n个仓颉码字符；

初始化模块，建立并初始化所述各词的词向量，以及所述各词对应的各n元仓颉码字符的仓颉码字符向量；

训练模块，根据所述词向量、所述仓颉码字符向量，以及分词后的所述语料，对所述词向量和所述仓颉码字符向量进行训练。

本申请实施例提供的另一种词向量处理方法，包括：

步骤1，对语料分词，并建立通过所述分词得到的各词构成的词汇表，其中，所述各词不包括在所述语料中出现次数少于设定次数的词；跳转步骤2；

步骤2，根据所述词汇表，建立n元仓颉码字符映射表，所述映射表包含所述各词与n元仓颉码字符之间的映射关系，所述n元仓颉码字符表征其映射的词的连续n个仓颉码字符；跳转步骤3；

步骤3，根据所述n元仓颉码字符映射表，建立并初始化所述各词的词向量，以及所述各词映射的各n元仓颉码字符的仓颉码字符向量；跳转步骤4；

步骤4，遍历分词后的所述语料，分别将遍历到的每个词作为当前词w并对当前词w执行步骤5，若遍历完成则结束，否则继续遍历；