[发明专利]一种半监督学习的小样本文本分类方法和系统在审

专利信息
申请号: 202111503834.0 申请日: 2021-12-09
公开(公告)号: CN114036947A 公开(公告)日: 2022-02-11
发明(设计)人: 张伟文;翁茂彬;叶海明 申请(专利权)人: 广东工业大学
主分类号: G06F40/289 分类号: G06F40/289;G06F16/35;G06K9/62;G06N3/04;G06N3/08
代理公司: 广州粤高专利商标代理有限公司 44102 代理人: 禹小明
地址: 510090 广东*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 监督 学习 样本 文本 分类 方法 系统
【权利要求书】:

1.一种半监督学习的小样本文本分类方法,其特征在于,包括以下步骤:

S1、获取待分类文本;

S2、将待分类文本输入预先训练完成的查找表,通过查找表将待分类文本映射为文本表征;

S3、将文本表征输入多层感知器得到文本标签,将文本标签作为文本分类结果,完成对小样本文本的分类。

2.根据权利要求1所述的一种半监督学习的小样本文本分类方法,其特征在于,步骤S2所述查找表为完成训练的查找表,通过对初始的查找表训练得到,获取完成训练的查找表的方法为:构建初始的查找表,通过变分自编码器对初始的查找表进行训练,保存完成训练的查找表。

3.根据权利要求2所述的一种半监督学习的小样本文本分类方法,其特征在于,所述变分自编码器包括:编码器、批归一化层、标量层、解码器;

编码器、批归一化层、标量层、解码器依次连接;所述编码器和解码器均采用门控卷积神经网络。

4.根据权利要求3所述的一种半监督学习的小样本文本分类方法,其特征在于,训练查找表包括步骤:

S21、构建初始的查找表,将文本数据集输入到初始的查找表,通过初始的查找表将文本映射为矩阵,所述矩阵为初始的文本表征;

S22、将初始的文本表征输入到变分自编码器的编码器中进行学习,输出编码器学习到的平均数和标准差;

S23、将平均数和标准差分别输入批归一化层,对其进行归一化,然后输入到标量层;

S24、使用经过批归一化层和标量层处理的平均数和标准差,按照以下公式计算隐码z;

其中,xi是变分自编码器的输入,f′μ和f′σ是分别计算并进行归一化和缩放平均数和标准差的函数,ε(s)~N(0,I),即ε(s)参数是按照独立高斯分布进行采样得到,s为隐码z的维度;

S25、隐码输入到变分自编码器的解码器中,输出重构文本;

S26、使用损失函数计算步骤S25的重构文本和步骤S21输入查找表的文本数据之间的重构损失,利用目标函数判断是否达到训练目标,目标函数公式为:

其中,xi是变分自编码器的输入,zi是隐变量,q(z)是变分自编码器的先验分布,p(zi|xi)是变分自编码器的后验分布,B是变分自编码器的下限,是重构损失,表明生成的单词和输入文本的相似度;KL[p(zi|xi)||q(z)]是测量两个概率分布差异的指标;

S27、若达到训练目标,查找表训练完成,保存完成训练的查找表;若未达到训练目标,则重复执行训练过程,并利用反向传播算法根据目标函数调整查找表和变分编码器的参数,直到达到训练目标。

5.根据权利要求1所述的一种半监督学习的小样本文本分类方法,其特征在于,步骤S3多层感知器利用文本表征得到文本标签过程包括:

S31、将文本表征输入多层感知器的第一全连接层提取特征,得到第一全连接层的输出数据;

S32、将第一全连接层的输出数据输入第一激活函数进行处理,得到第一激活函数的输出数据;

S33、将第一激活函数的输出数据输入多层感知器的第二全连接层提取特征,得到第二全连接层的输出数据;

S34、将第二全连接层的输出数据输入第二激活函数进行处理,得到文本标签作为文本分类结果。

6.根据权利要求5所述的一种半监督学习的小样本文本分类方法,其特征在于,步骤S32所述第一激活函数为relu激活函数,处理公式为其中,x是输入函数的数据。

7.根据权利要求5所述的一种半监督学习的小样本文本分类方法,其特征在于,步骤S34所述第二激活函数为sigmoid激活函数,处理公式为其中,x是输入函数的数据。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202111503834.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top