[发明专利]一种基于fastText和CRF的音乐领域命令理解方法在审
申请号: | 201811044969.3 | 申请日: | 2018-09-07 |
公开(公告)号: | CN109242020A | 公开(公告)日: | 2019-01-18 |
发明(设计)人: | 李贤;段礼强;乐雨泉 | 申请(专利权)人: | 苏州亭云智能科技有限公司 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/08 |
代理公司: | 北京轻创知识产权代理有限公司 11212 | 代理人: | 谈杰 |
地址: | 215000 江苏省*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 音乐领域 向量 标注 训练数据集合 相关参数 序列标签 错误导致 技术判断 句子语义 模型训练 目标序列 输入序列 输入样本 意图识别 用户话语 求和 字性 句子 标签 输出 音乐 | ||
本发明涉及一种基于fastText和CRF的音乐领域命令理解方法,包括以下步骤:步骤1:训练字向量,得到预训练好的字向量和训练数据集合;步骤2:对从所述步骤1中所得的训练数据集合进行fastText模型训练,从预训练好的字向量得到所有字的向量,进行求和平均操作,得到句子语义向量C,把C输入模型,通过和计算得到意图识别结果y;步骤3:将输入样本输入为序列,对输入序列每个字进行字性标注,输出得到句子标注序列标签,然后根据标注序列标签提取出对应的音乐实体;步骤4:对步骤3中所得的所述目标序列标签进行处理,得到对应的音乐领域实体。本发明通过fastText技术判断用户话语是否含有音乐领域相关意图,结合CRF进行相关参数提取,解决音乐领域相关参数提取错误导致意图判断错误的问题。
技术领域
本发明涉及多媒体分析技术领域,具体涉及一种基于fastText和CRF的音乐领域命令理解方法。
背景技术
对话系统是人机交互的一种相当重要的形式,也是自然语言处理过程中的一个关键的研究方向。在音乐领域,能否正确解析出用户话语命令是完成用户指定任务的基础,在很多地方比如语音助手、音乐平台都有很丰富的应用场景。对于用户某条话语,条件随机场(CRF)模型并不能很好的区分其是否表达了一个音乐领域内的意图。CRF一般在序列标注、命名实体识别过程表现较好,但在识别音乐实体之前,需要判断此用户话语是否表达音乐意图,这样做有二个好处,一是若判断用户话语没有表达音乐意图,则不需要进行后续实体提取操作,因为此时已经完成无音乐意图解析操作,二是若不做判断,则很有可能一段用户话语没有表现音乐意图,但是被错误的提取出了音乐实体,比如“刘德华的老婆是谁”这句用户话语,若不先进行音乐意图判断操作,则很有可能将“刘德华”识别成歌手实体,从而这句话也被解析成音乐意图,而实际上这句话并没有表达音乐领域的相关意图。本发明提出了一种基于快速文本分类(fastText)模型和条件随机场(CRF)模型的方法,fastText模型的目标为判断用户的话语是否表达了一个音乐领域的意图。若该话语确实表达了音乐领域的意图,那么为了完成该意图,CRF模型目标是提取该话语的相关参数(话语中的相关参数也被成为”槽”),从而本发明能更好的理解音乐领域用户话语的命令。
现有技术大多数把这个问题定义成一个序列标注问题,输入为句子序列,输出目标为句子标注序列标签,然后根据标注序列标签就能提取出对应的音乐实体。过程如下:定义X为输入句子随机变量序列,Y为目标标注随机变量序列,s(yi,x,i)是状态特征,状态特征依赖于当前位置,t(yi-1,yi,x,i)为转移特征,转移特征依赖当前和前一个位置,其中yi,yi-1是标注序列的标签,x是输入序列,i表示输入位置。
我们这里统一表示状态特征和转移特征,
(1)假设有K1个转移特征,K2个状态特征,K=K1+K2,则可以用以下公式表示:
(2)然后对转移特征与状态特征在各个位置i求和,记作:其中n表示序列长度。用wk表示特征fk(y,x)的权值,即:CRF的全局特征可以定义为此时条件随机场可以表示成:其中
对于训练样本集合我们要优化的目标为最大化其中M为训练集数目大小。通过训练集,我们调整参数W从而使得优化目标取得最大值。
模型训练完成之后,即特征向量权重W求解完成,对于新来输入序列x,我们通过求解以下式子得到预测标签序列,从而得到音乐实体:得到y’。即是目标序列标签,根据目标序列标签提出实体。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州亭云智能科技有限公司,未经苏州亭云智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811044969.3/2.html,转载请声明来源钻瓜专利网。