[发明专利]面向数据共享交换的文本数据分类分级模型的建立方法有效
申请号: | 201911224374.0 | 申请日: | 2019-12-04 |
公开(公告)号: | CN111159396B | 公开(公告)日: | 2022-04-22 |
发明(设计)人: | 颜亮;姬少培;董贵山;刘栋 | 申请(专利权)人: | 中国电子科技集团公司第三十研究所 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F40/289;G06F40/30;G06N3/04 |
代理公司: | 成都九鼎天元知识产权代理有限公司 51214 | 代理人: | 邓世燕 |
地址: | 610000 *** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 面向 数据 共享 交换 文本 分类 分级 模型 建立 方法 | ||
1.一种面向数据共享交换的文本数据分类分级模型的建立方法,其特征在于:包括如下步骤:
步骤一、对文本数据进行向量化,形成数据的结构化描述:
1.1)输入文本集P={P1,P2,...,Pt,...,PM},其中Pt为第t个文本,M为文本总数,设定每个文本提取的关键词数为Mkey,阻尼因子d、滑动窗口宽度ω,迭代停止阈值σ、最大迭代次数Gmax;
1.2)将文本集P中每个文本利用分词算法进行分词并去掉停用词;
1.3)利用TF-IDF算法计算文本集合P中对应的每个词的TF-IDF值;
1.4)对文本集P中每个文本进行向量化,得到各文本的词向量:
1.4.1)基于宽度ω,滑动窗口扫过文本词组,采用共现关系构造任意两点之间的边,从而构建由Pt中的词构成的图Gt;
1.4.2)根据下式迭代计算图Gt中各节点σ的得分,直至两次得分之差小于σ:
其中,W(Vi)TF-IDF为词Vi的TF-IDF值,Vi和Vj分别表示图Gt中第i、j节点,S(Vi)为第i个节点的节点权值得分,I(Vi)为Pt中所有连接到Vi的节点构成的集合;O(Vj)为Pt中节点Vi连接到的节点构成的集合;
1.4.3)对Gt中各节点的权重得分按降序排列,取前Mkey个节点对应的词构成关键词集合K;
1.4.4)依据下式计算文本Pt的词向量;
其中Vk和W(Vk)TF-IDF分别代表集合K中第k个关键词的词向量和此关键词对应的TF-IDF值;
1.5)输出文本集P的文本向量集;
步骤二、利用BiGRU-CNN串行混合分类模型对向量化后的数据进行分类:
2.1)建立BiGRU-CNN串行混合分类模型,所述BiGRU-CNN串行混合分类模型包括:
2.1.1)嵌入层:将文本的词向量进行拼接,生成句子级词向量矩阵:
其中Sij表示由i个词向量拼接成的第j个句子的词向量矩阵;⊕表示词向量的拼接操作;
2.1.2)BiGRU:以Sij为BiGRU层的输入,将输入序列分别从其正反两个方向输入,通过隐藏层提取文本的上文信息特征和文本的下文信息特征,最后通过下式将两个方向的隐层输出进行拼接:
hij=BiGRU(Sijt)
2.1.3)Conv:使用滤波器为3*100,4*100,5*100各128个CNN网络提取局部语义特征,并通过下式进行计算:
Oijt=CNN(hijt)
其中,hijt表示在t时刻BiGRU的输出;Oijt表示t时刻CNN的输出;
2.1.4)利用全局平均池化对输出矩阵进行降维,对CNN中不同卷积核提取的局部语义特征语义进行融合,最后使用全连接层进行连接;
2.1.5)输出:通过Softmax函数进行文本分类,分类函数如下式所示:
yi=Softmax(widijt+bi)
其中:wi表示Dense层到输出层的权重系数矩阵,wi表示相应的偏置,dijt表示在t时刻Dense层的输出向量;
2.2)通过分类实战模拟,进一步训练BiGRU-CNN串行混合分类模型:
2.2.1)对实际的文本业务数据利用BiGRU-CNN模型进行分类,将分类后的结果进行记录;
2.2.2)将分类完成后的文本数据作为新的训练数据,添加到训练样本集中;
2.3)对于分类结果有异议的文本数据,由人工进行辅助判断,人工决策后,将该数据输入分类模型,作为训练样本,重新学习;
步骤三、对分类数据进行安全等级划分;
步骤四、建立数据分级分类模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国电子科技集团公司第三十研究所,未经中国电子科技集团公司第三十研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911224374.0/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置