[发明专利]一种基于fastText和CRF的音乐领域命令理解方法

权利要求书

1.一种基于fastText和CRF的音乐领域命令理解方法，其特征在于：

包括以下步骤：

步骤1：训练字向量，得到预训练好的字向量和训练数据集合；

步骤2：对从所述步骤1中所得的训练数据集合进行fastText模型训练，从预训练好的字向量得到所有字的向量，进行求和平均操作，得到句子语义向量C，把C输入模型，通过h＝tanh(W_c·C+b_c)和y＝softmax(U·h+b_h)计算得到意图识别结果y；其中W_c，U为神经网络的权重矩阵,softmax，tanh为激活函数，b_c和b_h为神经网络的偏置，y为输出结果；

步骤3：将输入样本输入为序列，对输入序列每个字进行字性标注，输出得到句子标注序列标签，然后根据标注序列标签提取出对应的音乐实体，所述提取出对应的音乐实体的过程为：定义X为输入样本随机变量序列，Y为目标标注随机变量序列，s(y_i,x,i)为状态特征，状态特征依赖于当前位置，t(y_i-1,y_i,x,i)为转移特征，转移特征依赖当前和前一个位置，其中y_i,y_i-1是标注序列的标签，x是输入序列，i表示输入位置，K₁为转移特征数量，K₂为状态特征数量，K＝K₁+K₂，则可以用以下公式表示：

然后对转移特征与状态特征在各个位置i求和，记作：其中n表示序列长度，用w_k表示特征f_k(y,x)的权值，即：CRF的全局特征可以定义为此时条件随机场可以表示成：其中训练样本集合则优化的目标为其中M为训练集数目大小，调整参数W从而使得优化目标取得最大值，模型训练完成之后，即特征向量权重W求解完成，对于新来输入序列x，通过求解以下式子得到预测标签序列，从而得到目标序列标签：

步骤4：对步骤3中所得的所述目标序列标签进行处理，得到对应的音乐领域实体。

2.根据权利要求1所述的一种基于fastText和CRF的音乐领域命令理解方法，其特征在于：所述步骤1中的训练字向量为采用word2vec工具用维基百科整个中文语料训练出预训练好的字向量。

3.根据权利要求1或2所述的一种基于fastText和CRF的音乐领域命令理解方法，其特征在于：所述的训练中，设置一个窗口大小为z，每次取z个字，把它们的字向量求平均作为输入C，然后隐藏h＝tanh(W_c·C+b_c)，最后通过全连接层得到y＝softmax(U·h+b_h)，其中W_c，U为神经网络的权重矩阵,softmax，tanh为激活函数，b_c和b_h为神经网络的偏置，y为输出结果。其要优化的目标为L＝ylogy'+(1-y)log(1-y')，其中y'为真实标签植。