[发明专利]一种文本情感分类方法和装置、计算机可读存储介质有效
申请号: | 201910285262.X | 申请日: | 2019-04-10 |
公开(公告)号: | CN110110323B | 公开(公告)日: | 2022-11-11 |
发明(设计)人: | 齐云飞;陈栋 | 申请(专利权)人: | 北京明略软件系统有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/211;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京安信方达知识产权代理有限公司 11262 | 代理人: | 陶丽;栗若木 |
地址: | 102218 北京市昌平区东小*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 文本 情感 分类 方法 装置 计算机 可读 存储 介质 | ||
本申请公开了一种文本情感分类方法和装置、计算机可读存储介质,所述方法包括通过预训练语言模型获取文本的句子上下文,所述预训练语言模型用于预测所述文本中随机掩盖的一个或多个字;随机初始化a*n的角度嵌入矩阵,a为角度个数,n为词嵌入维度数,将初始化的角度嵌入矩阵和所述句子上下文进行注意力函数计算,得到修正的角度嵌入矩阵;根据修正的角度嵌入矩阵进行分类判别,得到文本各个角度的情感。本申请通过预训练语言模型获取文本的句子上下文并通过角度嵌入矩阵和句子上下文进行注意力函数计算,能够处理多角度多极性的情感分析任务,且不需要大量时间提取特征。
技术领域
本申请涉及但不限于自然语言处理(Natural Language Processing,NLP)技术领域,尤其涉及一种文本情感分类方法和装置、计算机可读存储介质。
背景技术
情感分析是NLP中重要任务,有时也被称为“意见挖掘”,基于角度的情感挖掘是更细粒度的情感分析,它可以提供更深层次的意见倾向。
目前流行的情感分类大多数是判定整句或者文章的情感极性,无法做到针对给定一段文本,从中更细粒度地判定各角度的情感极性。而部分基于角度的情感分类是通过句法分析、语言学特征提取或者手动定义部分规则,该种方式需要大量时间提取特征,要求开发人员有很好的语言学基础。
发明内容
本申请提供了一种文本情感分类方法和装置、计算机可读存储介质,能够处理多角度多极性的情感分析任务,且不需要大量时间提取特征。
本申请提供了一种文本情感分类方法,包括:
通过预训练语言模型获取文本的句子上下文,所述预训练语言模型用于预测所述文本中随机掩盖的一个或多个字;
随机初始化a*n的角度嵌入矩阵,a为角度个数,n为词嵌入维度数,将初始化的角度嵌入矩阵和所述句子上下文进行注意力函数计算,得到修正的角度嵌入矩阵;
根据修正的角度嵌入矩阵进行分类判别,得到文本各个角度的情感。
在一种示例性实施例中,所述预训练语言模型包括嵌入层、特征抽取层和预测层,其中:
所述嵌入层用于,将文本中每个词映射为词向量,并为每个词向量嵌入位置向量,将词向量和位置向量累加后输出至所述特征抽取层;
所述特征抽取层用于,接收嵌入层的输出结果,提取文本的高维特征,并输出句子上下文至所述预测层;
所述预测层用于,根据接收的句子上下文,对掩盖位置的字进行预测。
在一种示例性实施例中,所述嵌入层包括前向嵌入层和后向嵌入层,所述特征抽取层包括前向特征抽取层和后向特征抽取层,其中:
所述前向嵌入层用于,将掩盖位置左侧的文本中每个词映射为词向量,并为每个词向量嵌入位置向量,将词向量和位置向量累加后输出至所述前向特征抽取层;
所述前向特征抽取层用于,接收前向嵌入层的输出结果,提取掩盖位置左侧的文本的高维特征,并输出掩盖位置左侧的句子上下文至所述预测层;
所述后向嵌入层用于,将掩盖位置右侧的文本中每个词映射为词向量,并为每个词向量嵌入位置向量,将词向量和位置向量累加后输出至所述后向特征抽取层;
所述后向特征抽取层用于,接收后向嵌入层的输出结果,提取掩盖位置右侧的文本的高维特征,并输出掩盖位置右侧的句子上下文至所述预测层;
所述预测层具体用于,将所述前向特征抽取层和所述后向特征抽取层输出的句子上下文进行叠加,并根据叠加结果对掩盖位置的字进行预测。
在一种示例性实施例中,所述将初始化的角度嵌入矩阵和所述句子上下文进行注意力函数计算,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京明略软件系统有限公司,未经北京明略软件系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910285262.X/2.html,转载请声明来源钻瓜专利网。