[发明专利]一种基于fastText和CRF的音乐领域命令理解方法在审
申请号: | 201811044969.3 | 申请日: | 2018-09-07 |
公开(公告)号: | CN109242020A | 公开(公告)日: | 2019-01-18 |
发明(设计)人: | 李贤;段礼强;乐雨泉 | 申请(专利权)人: | 苏州亭云智能科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/08 |
代理公司: | 北京轻创知识产权代理有限公司 11212 | 代理人: | 谈杰 |
地址: | 215000 江苏省*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种基于fastText和CRF的音乐领域命令理解方法,包括以下步骤:步骤1:训练字向量,得到预训练好的字向量和训练数据集合;步骤2:对从所述步骤1中所得的训练数据集合进行fastText模型训练,从预训练好的字向量得到所有字的向量,进行求和平均操作,得到句子语义向量C,把C输入模型,通过和计算得到意图识别结果y;步骤3:将输入样本输入为序列,对输入序列每个字进行字性标注,输出得到句子标注序列标签,然后根据标注序列标签提取出对应的音乐实体;步骤4:对步骤3中所得的所述目标序列标签进行处理,得到对应的音乐领域实体。本发明通过fastText技术判断用户话语是否含有音乐领域相关意图,结合CRF进行相关参数提取,解决音乐领域相关参数提取错误导致意图判断错误的问题。 | ||
搜索关键词: | 音乐领域 向量 标注 训练数据集合 相关参数 序列标签 错误导致 技术判断 句子语义 模型训练 目标序列 输入序列 输入样本 意图识别 用户话语 求和 字性 句子 标签 输出 音乐 | ||
【主权项】:
1.一种基于fastText和CRF的音乐领域命令理解方法,其特征在于:包括以下步骤:步骤1:训练字向量,得到预训练好的字向量和训练数据集合;步骤2:对从所述步骤1中所得的训练数据集合进行fastText模型训练,从预训练好的字向量得到所有字的向量,进行求和平均操作,得到句子语义向量C,把C输入模型,通过h=tanh(Wc·C+bc)和y=softmax(U·h+bh)计算得到意图识别结果y;其中Wc,U为神经网络的权重矩阵,softmax,tanh为激活函数,bc和bh为神经网络的偏置,y为输出结果;步骤3:将输入样本输入为序列,对输入序列每个字进行字性标注,输出得到句子标注序列标签,然后根据标注序列标签提取出对应的音乐实体,所述提取出对应的音乐实体的过程为:定义X为输入样本随机变量序列,Y为目标标注随机变量序列,s(yi,x,i)为状态特征,状态特征依赖于当前位置,t(yi‑1,yi,x,i)为转移特征,转移特征依赖当前和前一个位置,其中yi,yi‑1是标注序列的标签,x是输入序列,i表示输入位置,K1为转移特征数量,K2为状态特征数量,K=K1+K2,则可以用以下公式表示:然后对转移特征与状态特征在各个位置i求和,记作:其中n表示序列长度,用wk表示特征fk(y,x)的权值,即:CRF的全局特征可以定义为此时条件随机场可以表示成:其中训练样本集合则优化的目标为其中M为训练集数目大小,调整参数W从而使得优化目标取得最大值,模型训练完成之后,即特征向量权重W求解完成,对于新来输入序列x,通过求解以下式子得到预测标签序列,从而得到目标序列标签:步骤4:对步骤3中所得的所述目标序列标签进行处理,得到对应的音乐领域实体。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州亭云智能科技有限公司,未经苏州亭云智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811044969.3/,转载请声明来源钻瓜专利网。