[发明专利]词语预测模板生成方法及装置

说明书

公开了一种词语预测模板生成方法及装置。该方法应包括：获取训练语料；对所述训练语料进行分词，得到多个词语；确定每个词语的特征信息；针对所述多个词语中的目标词语，利用所述目标词语的左边第N个词语、右边第N个词语和所述目标词语的特征信息生成候选预测模板，其中，1≤N≤M，M为所述目标词语在所述训练语料中左边和右边可扩充的最大词语数量中的较小值，N的初始值为1；利用候选预测模板在所述训练语料中进行词语提取；如果提取的词语均与所述目标词语相同，则确定所述候选预测模板为所述目标词语对应的词语预测模板。

技术领域

本申请涉及自然语言处理技术领域，尤其涉及一种词语预测模板生成方法及装置。

背景技术

在自然语言处理技术领域，通常是通过利用词向量模板来进行关键词预测及提取。目前，常用的词向量模板生成方式有两种，一种是人工生成，即技术人员根据经验和实验，总结规律，生成词向量模板。该方式的缺点是，无法自动和批量生成词向量模板，效率低。另一种是利用神经网络模型进行训练得到词向量模板，例如Bert技术，Albert技术，这种方式虽然可以自动和批量生成词向量模板，且相较于人工方式，效率有大幅的提高，但是基于该方式的技术原理，在将词向量模板应用于有规律性的短文本的场景时，仍然需要使用海量的训练语料进行训练，因此在训练中造成的消耗较大，且利用训练得到的词向量模板进行词语预测及提取的准确率较低。

发明内容

为解决上述问题，本发明提供一种词语预测模板生成方法及装置，对于短文本的词语预测及提取，不需要使用海量的训练语料进行训练，消耗较小，并且准确率较高。

为了实现上述目的，在第一方面，本发明实施例提供了一种词语预测模板生成方法，该方法包括：

获取训练语料；

对所述训练语料进行分词，得到多个词语；

确定每个词语的特征信息；

针对所述多个词语中的目标词语，利用所述目标词语的左边第N个词语、右边第N个词语和所述目标词语的特征信息生成候选预测模板，其中，1≤N≤M，M为所述目标词语在所述训练语料中左边和右边可扩充的最大词语数量中的较小值，N的初始值为1；

利用候选预测模板在所述训练语料中进行词语提取；

如果提取的词语均与所述目标词语相同，则确定所述候选预测模板为所述目标词语对应的词语预测模板。

优选的，在所述利用所述候选预测模板在所述训练语料中进行词语提取之后，所述方法还包括：如果提取的词语中包括与所述目标词语不同的词语且N小于M，则N+1，执行利用所述目标词语的左边第N个词语、右边第N个词语和所述目标词语的特征信息生成候选预测模板。

优选的，在所述利用所述候选预测模板在所述训练语料中进行词语提取之后，所述方法还包括：如果提取的词语中包括与所述目标词语不同的词语且N等于M，则判断提取的词语中与所述目标词语不同的词语的占比，如果所述占比不大于预设占比阈值，则确定所述候选预测模板为所述目标词语对应的词语预测模板。

优选的，在针对所述多个词语中的目标词语，利用所述目标词语的左边第N个词语、右边第N个词语和所述目标词语的特征信息生成候选预测模板之前，所述方法还包括：将所述多个词语中的可泛化的词语，按类别使用标识值进行替换，并记录标识值对应的词语的正则表达式。

优选的，所述方法还包括：将多个词语预测模板进行融合，生成组合词语预测模板。

在第二方面，本发明实施例提供了一种词语预测模板生成装置，该装置包括：

获取单元，用于获取训练语料；

分词单元，用于对所述训练语料进行分词，得到多个词语；

第一确定单元，用于确定每个词语的特征信息；