[发明专利]一种基于fastText和CRF的音乐领域命令理解方法在审

专利信息
申请号: 201811044969.3 申请日: 2018-09-07
公开(公告)号: CN109242020A 公开(公告)日: 2019-01-18
发明(设计)人: 李贤;段礼强;乐雨泉 申请(专利权)人: 苏州亭云智能科技有限公司
主分类号: G06K9/62 分类号: G06K9/62;G06N3/08
代理公司: 北京轻创知识产权代理有限公司 11212 代理人: 谈杰
地址: 215000 江苏省*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 音乐领域 向量 标注 训练数据集合 相关参数 序列标签 错误导致 技术判断 句子语义 模型训练 目标序列 输入序列 输入样本 意图识别 用户话语 求和 字性 句子 标签 输出 音乐
【说明书】:

发明涉及一种基于fastText和CRF的音乐领域命令理解方法,包括以下步骤:步骤1:训练字向量,得到预训练好的字向量和训练数据集合;步骤2:对从所述步骤1中所得的训练数据集合进行fastText模型训练,从预训练好的字向量得到所有字的向量,进行求和平均操作,得到句子语义向量C,把C输入模型,通过和计算得到意图识别结果y;步骤3:将输入样本输入为序列,对输入序列每个字进行字性标注,输出得到句子标注序列标签,然后根据标注序列标签提取出对应的音乐实体;步骤4:对步骤3中所得的所述目标序列标签进行处理,得到对应的音乐领域实体。本发明通过fastText技术判断用户话语是否含有音乐领域相关意图,结合CRF进行相关参数提取,解决音乐领域相关参数提取错误导致意图判断错误的问题。

技术领域

本发明涉及多媒体分析技术领域,具体涉及一种基于fastText和CRF的音乐领域命令理解方法。

背景技术

对话系统是人机交互的一种相当重要的形式,也是自然语言处理过程中的一个关键的研究方向。在音乐领域,能否正确解析出用户话语命令是完成用户指定任务的基础,在很多地方比如语音助手、音乐平台都有很丰富的应用场景。对于用户某条话语,条件随机场(CRF)模型并不能很好的区分其是否表达了一个音乐领域内的意图。CRF一般在序列标注、命名实体识别过程表现较好,但在识别音乐实体之前,需要判断此用户话语是否表达音乐意图,这样做有二个好处,一是若判断用户话语没有表达音乐意图,则不需要进行后续实体提取操作,因为此时已经完成无音乐意图解析操作,二是若不做判断,则很有可能一段用户话语没有表现音乐意图,但是被错误的提取出了音乐实体,比如“刘德华的老婆是谁”这句用户话语,若不先进行音乐意图判断操作,则很有可能将“刘德华”识别成歌手实体,从而这句话也被解析成音乐意图,而实际上这句话并没有表达音乐领域的相关意图。本发明提出了一种基于快速文本分类(fastText)模型和条件随机场(CRF)模型的方法,fastText模型的目标为判断用户的话语是否表达了一个音乐领域的意图。若该话语确实表达了音乐领域的意图,那么为了完成该意图,CRF模型目标是提取该话语的相关参数(话语中的相关参数也被成为”槽”),从而本发明能更好的理解音乐领域用户话语的命令。

现有技术大多数把这个问题定义成一个序列标注问题,输入为句子序列,输出目标为句子标注序列标签,然后根据标注序列标签就能提取出对应的音乐实体。过程如下:定义X为输入句子随机变量序列,Y为目标标注随机变量序列,s(yi,x,i)是状态特征,状态特征依赖于当前位置,t(yi-1,yi,x,i)为转移特征,转移特征依赖当前和前一个位置,其中yi,yi-1是标注序列的标签,x是输入序列,i表示输入位置。

我们这里统一表示状态特征和转移特征,

(1)假设有K1个转移特征,K2个状态特征,K=K1+K2,则可以用以下公式表示:

(2)然后对转移特征与状态特征在各个位置i求和,记作:其中n表示序列长度。用wk表示特征fk(y,x)的权值,即:CRF的全局特征可以定义为此时条件随机场可以表示成:其中

对于训练样本集合我们要优化的目标为最大化其中M为训练集数目大小。通过训练集,我们调整参数W从而使得优化目标取得最大值。

模型训练完成之后,即特征向量权重W求解完成,对于新来输入序列x,我们通过求解以下式子得到预测标签序列,从而得到音乐实体:得到y’。即是目标序列标签,根据目标序列标签提出实体。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州亭云智能科技有限公司,未经苏州亭云智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201811044969.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top