[发明专利]一种基于多任务对抗学习的文本分类方法在审
| 申请号： | 201811201446.5 | 申请日： | 2018-10-16 |
| 公开（公告）号： | CN109543031A | 公开（公告）日： | 2019-03-29 |
| 发明（设计）人： | 陆璐;贾志豪 | 申请（专利权）人： | 华南理工大学 |
| 主分类号： | G06F16/35 | 分类号： | G06F16/35;G06K9/62;G06N3/04;G06N3/08 |
| 代理公司： | 广州市华学知识产权代理有限公司 44245 | 代理人： | 陈宏升 |
| 地址： | 510640 广*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于多任务对抗学习的文本分类方法，包括以下步骤：预训练词嵌入向量；构建多任务特征提取器，提炼出多领域文本数据的共享特征和私有特征；引入多领域的对抗网络，使得共享特征空间包含更多共享特征和更少的私有特征；引入特征矩阵的正交约束，消除同时存在于共享特征空间和私有特征空间中的冗余特征；设计联合损失函数，构建完整的多任务对抗学习分类器；将共享网络层剥离出来，用于新目标领域文本数据的分类预测。本发明可直接应用于实际多领域文本数据的分类任务中，采用本发明中的多任务学习分类方法可以解决单任务学习会忽略任务之间所富含的关联信息的问题，且通过对抗网络和正交约束可提高文本分类的准确率。 | ||
| 搜索关键词： | 特征空间 文本分类 对抗 共享 领域文本 任务学习 正交约束 构建 分类 学习分类器 共享网络 关联信息 目标领域 任务特征 冗余特征 损失函数 特征矩阵 文本数据 提取器 引入 准确率 富含 向量 嵌入 剥离 提炼 网络 学习 预测 应用 联合 | ||
【主权项】：
1.一种基于多任务对抗学习的文本分类方法，其特征在于，包括以下步骤：1)基于word2vec模型，在未贴标签的大规模数据集上预训练word embeddings词嵌入向量，用于文本数据的矩阵向量化；2)构建基于Shared‑Private模型的多任务特征提取网络，利用步骤1)得到的预训练词向量初始化Shared‑Private网络的输入；3)引入多领域对抗网络，优化步骤2)得到的共享特征空间，使之包含更多的共享特征和更少的私有特征；4)引入特征矩阵的正交约束模型，在步骤3)中优化共享特征空间的基础上，消除共享特征空间和私有特征空间中的冗余特征；5)在步骤2)、步骤3)和步骤4)的基础上，设计带超参数的联合损失函数，训练出基于多任务对抗学习的文本分类模型；6)保存步骤5)中得到的共享特征提取网络，维持网络参数不变，用于新目标领域的文本数据分类预测。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于华南理工大学，未经华南理工大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201811201446.5/，转载请声明来源钻瓜专利网。
