[发明专利]模型训练方法、文本分类方法、装置、计算机设备和介质有效
申请号: | 202011133979.1 | 申请日: | 2020-10-21 |
公开(公告)号: | CN112256874B | 公开(公告)日: | 2023-08-08 |
发明(设计)人: | 李志韬;王健宗;吴天博;程宁 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F18/214;G06N20/20 |
代理公司: | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人: | 张传义 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 训练 方法 文本 分类 装置 计算机 设备 介质 | ||
1.一种文本分类模型训练方法,其特征在于,包括:
获取文本训练集合,根据所述文本训练集合对本地分类模型进行文本分类训练,得到训练后的本地分类模型和本地分类结果;
将所述训练后的本地分类模型的模型参数和所述本地分类结果加密后上传至联邦学习服务器进行联合学习,以得到学习参数,其中,所述联邦学习服务器用于根据不同客户端上传的加密数据进行联合学习;
接收所述联邦学习服务器发送的所述学习参数,并根据所述学习参数更新所述训练后的本地分类模型,将更新后的本地分类模型作为训练完成的文本分类模型;
所述本地分类模型包括词向量模型、聚类模型以及相似文本模型;所述根据所述文本训练集合对本地分类模型进行文本分类训练,得到训练后的本地分类模型和本地分类结果,包括:根据所述文本训练集合对所述词向量模型进行向量化训练,得到训练后的词向量模型和词向量预测结果;基于所述词向量预测结果对所述聚类模型进行文本聚类训练,得到训练后的聚类模型和聚类预测结果;基于所述聚类预测结果和所述文本训练集合对所述相似文本模型进行相似文本预测训练,得到训练后的相似文本模型和文本类别预测结果;将所述训练后的词向量模型、所述训练后的聚类模型以及所述训练后的相似文本模型合并得到所述训练后的本地分类模型,以及根据所述词向量预测结果、所述聚类预测结果和所述文本类别预测结果生成所述本地分类结果;
所述文本训练集合包括多个训练文本,所述聚类预测结果包括每个训练文本对应的聚类簇,所述相似文本模型为根据词频-逆文档频率算法建立的;所述基于所述聚类预测结果和所述文本训练集合对所述相似文本模型进行相似文本预测训练,得到训练后的相似文本模型和文本类别预测结果,包括:基于所述相似文本模型,根据所述词频-逆文档频率算法确定每个所述训练文本在对应的聚类簇中的相似文本;确定每个所述训练文本对应的相似文本的个数;当存在所述训练文本对应的相似文本的个数小于预设个数时,调整所述词频-逆文档频率算法的参数,直至基于调整后的所述词频-逆文档频率算法,确定每个所述训练文本的相似文本的个数大于或等于所述预设个数,结束训练,得到所述训练后的相似文本模型;根据预设的相似度算法,计算每个所述训练文本与每个所述训练文本的相似文本之间的相似度;将最大相似度对应的相似文本的文本类别,确定为每个所述训练文本对应的文本类别预测结果。
2.根据权利要求1所述的文本分类模型训练方法,其特征在于,所述根据所述词频-逆文档频率算法确定每个所述训练文本在对应的聚类簇中的相似文本,包括:
根据所述词频-逆文档频率算法确定每个所述训练文本对应的第一关键词,以及确定每个所述训练文本对应的聚类簇中的其他文本对应的第二关键词;
若所述第二关键词与所述第一关键词匹配,则将所述第二关键词对应的所述其他文本确定为每个所述训练文本的相似文本。
3.根据权利要求1所述的文本分类模型训练方法,其特征在于,所述根据所述词向量预测结果、所述聚类预测结果和所述文本类别预测结果生成所述本地分类结果,包括:
基于预设的权重计算公式,对所述词向量预测结果、所述聚类预测结果和所述文本类别预测结果进行加权求和,得到所述本地分类结果。
4.根据权利要求1所述的文本分类模型训练方法,其特征在于,所述本地分类模型的模型参数包括所述词向量模型中的注意力权重、所述聚类模型中的聚类中心以及所述相似文本模型中的逆文档频率。
5.一种基于文本分类模型的文本分类方法,其特征在于,所述文本分类模型为根据权利要求1至4任一项所述的文本分类模型训练方法训练得到,所述文本分类方法包括:
获取待分类文本;
将所述待分类文本输入所述文本分类模型中进行分类预测,得到所述待分类文本对应的文本类别。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011133979.1/1.html,转载请声明来源钻瓜专利网。