[发明专利]一种基于迁移学习和深度学习的人民调解案例分类系统及方法在审
申请号: | 201811590341.3 | 申请日: | 2018-12-25 |
公开(公告)号: | CN109726287A | 公开(公告)日: | 2019-05-07 |
发明(设计)人: | 金佳佳;钱小鸿;丁锴;陈涛;冯远静;李建元 | 申请(专利权)人: | 银江股份有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/215;G06K9/62;G06N3/04;G06N3/08;G06Q50/18 |
代理公司: | 杭州之江专利事务所(普通合伙) 33216 | 代理人: | 张慧英 |
地址: | 310000 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 辅助数据 向量化 调解 迁移 分类系统 学习 数据采集模块 特征提取模块 在线迭代优化 个性化需求 应用范围广 构造字符 神经网络 网络训练 系统结构 向量矩阵 训练分类 差异性 低频词 维度 文本 转换 | ||
1.一种基于迁移学习和深度学习的人民调解案例分类方法,其特征在于包括如下步骤:
(1)收集人民调解数据与辅助数据,并对人民调解数据和辅助数据进行预处理得到辅助数据集A、人民调解数据集B;
(2)构造字符向量矩阵,对辅助数据进行向量化处理,将向量化后的辅助数据输入到卷积神经网络中,提取辅助数据特征;同时对卷积神经网络重新训练获得辅助领域模型,并将辅助领域模型的网络结构图保存为.meta文件,网络参数保存为.checkpoint文件;
(3)利用迁移学习技术将提取的辅助数据特征迁移到新的神经网络中,该新神经网络为基于辅助领域模型的网络图重建的神经网络;并对人民调解数据进行向量化处理后输入到得到的卷积神经网络中,训练分类器模型,得到并保存最终的人民调解分类模型;采用该人民调解分类模型对人民调解案例进行分类。
2.根据权利要求1所述的一种基于迁移学习和深度学习的人民调解案例分类方法,其特征在于:所述步骤(1)具体如下:
(1.1)收集辅助数据:收集与领域相关的长文本数据作为辅助领域数据;
(1.2)收集人民调解数据:收集近年的人民调解数据,根据专家经验将人民调解数据打上小类标签;
(1.3)数据清洗:将收集的辅助数据进行清洗,删除文本中的干扰字符,删除过短的数据;将收集的人民调解数据进行清洗,删除质量差和过短的数据,删除文本中的干扰字符;
(1.4)数据去重:基于清洗后的数据,采用余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离方法中的任意一种或多种方法删除重复和相似数据;
(1.5)将清洗和去重后的数据存入到数据仓库中,获得辅助数据集A、人民调解数据集B。
3.根据权利要求1所述的一种基于迁移学习和深度学习的人民调解案例分类方法,其特征在于:所述步骤(2)具体如下:
(2.1)构造字符向量矩阵:将辅助数据集A和人民调解数据集B的文本切分成单个字符,一行一个字符保存在.txt文件;假设C为数据中所用的字符集,构造字符向量矩阵Q∈R|C|×|C|;
(2.2)文本嵌入:假设一个文本的字符序列为[s1,s2,s3,…,sn],sn为文本中第n个字符,则根据字符序列和字符向量矩阵构造文本向量S∈Rn×|C|;因此,对辅助数据集A文本嵌入后最终输出文本向量空间I∈R|L*n|×|C|,L为辅助数据集A的总数;
(2.3)将输出的文本向量空间I输入到卷积计算层中,利用滤波器对文本矩阵做卷积运算,若滤波器大小为h×n,其中h为卷积核窗口中的字符数量,则卷积操作后输出特征ti为:
ti=f(W·Si:i+h-1+b)
其中b∈R为偏差项,W∈Rh×n为卷积核的权重矩阵,f是卷积核函数;该滤波器应用于一个文本{S1:h,S2:h+1,…,Sn-h+1}得到特征T为:
T=[t1,t2,t3,t4,…,tn-h+1]
其中t∈Rn-h+1;通过max-pooling算法对特征进行下采样,保留最重要的特征
则全连接层的特征向量V为:
其中k为卷积核的个数;通过Softmax层进行归一化;
(2.4)基于辅助数据集A对卷积神经网络重新训练获得辅助领域模型,并将辅助领域模型的网络结构图保存为.meta文件,网络参数保存为.checkpoint文件。
4.根据权利要求3所述的一种基于迁移学习和深度学习的人民调解案例分类方法,其特征在于:所述的字符向量矩阵Q采用one-hot编码,对角线元素均设为1,其余为0,矩阵Q的每一个行向量代表一个字符。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于银江股份有限公司,未经银江股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811590341.3/1.html,转载请声明来源钻瓜专利网。