[发明专利]一种基于低门限集成与文本内容匹配的虚假新闻识别方法有效
申请号: | 202010581302.8 | 申请日: | 2020-06-23 |
公开(公告)号: | CN111831790B | 公开(公告)日: | 2023-07-14 |
发明(设计)人: | 谭华;徐维超 | 申请(专利权)人: | 广东工业大学 |
主分类号: | G06F16/33 | 分类号: | G06F16/33;G06F16/35;G06F40/289;G06F40/30;G06F18/24;G06F18/25;G06N3/0442;G06N3/0464;G06N3/08 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 张金福 |
地址: | 510060 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 门限 集成 文本 内容 匹配 虚假 新闻 识别 方法 | ||
1.一种基于低门限集成与文本内容匹配的虚假新闻识别方法,其特征在于,包括以下步骤:
S1:获取备用新闻文本和虚假新闻文本,所述备用新闻文本划分为训练文本和待测文本,所述虚假新闻文本用以构建揭露语料库;
S2:对所述训练文本、待测文本和所述揭露语料库进行数据统计和处理;
S3:构建若干文本分类稳健的深度学习模型,并设置模型的初始参数;
S4:将所述训练文本送入所构建的深度学习模型进行训练,得到训练完毕的深度学习模型,然后将所述待测文本送入训练完毕的深度学习模型进行判别,并输出判别结果;
S5:将所述判别结果进行集成,得到初步判断新闻真伪的预测标签;
S6:获取分别能够代表所述揭露语料库和所述待测文本的关键词,并对他们进行匹配,然后根据匹配结果修正所述预测标签,得到最终判断新闻真伪的正式标签;
在所述步骤S1中,所述训练文本、所述待测文本和所述虚假新闻文本均为纯文本数据;所述揭露语料库为若干所述虚假新闻文本的集合;
所述步骤S2具体过程为:
S2.1:采用pandas工具包对所述备用新闻文本和所述揭露语料库进行统计,并进行去除重复文本的操作;
S2.2:分别计算出所述训练文本、所述待测文本和所述虚假新闻文本的平均长度;
所述步骤S3中构建所述深度学习模型的具体过程为:
S3.1:选取BERT、XLNet、roberta三个预训练语言模型作为基模型;
S3.2:选取Bi-LSTM、CNN、Linear三个神经网络算法作为备用;
S3.3:构建三个深度学习模型:BERT+CNN+Linear、XLNet+Bi-LSTM+Linear、roberta+Bi-LSTM+CNN+Linear;
所述步骤S3中所述初始参数包括文本长度参数、批尺寸batch size、轮数epochs、优化器optimizer和学习率learning rate;其中,所述文本长度参数设置为步骤S2中计算出的平均长度;
所述步骤S4中对所构建的深度学习模型进行训练的方法为10折交叉验证法,其具体过程为:
S4.1:采用k-fold函数将所述训练文本拆分为10份;其中,9份作为训练集,用于训练;1份作为测试集,用于测试;
S4.2:将所述训练集其中1份数据与所述测试集进行轮换,如此重复后得到10个具有不同测试集的组合;
S4.3:设置甄别的最低门限,若测试集组合中有一个认定所述训练文本为虚假新闻,则得出的测试结果为虚假新闻;
S4.4:保存测试结果为虚假新闻的深度学习模型;
三个不同的深度学习模型均采用所述10折交叉验证的训练方法;
所述步骤S4中所述训练采用的任务层为2-4层的LSTM和1层的CNN;
所述步骤S5中对判别结果进行集成的方法是投票法,将所构建的三个深度学习模型输出的判别结果中超过半数的,作为所述预测标签;
所述步骤S6中修正所述预测标签的具体过程为:
S6.1:利用tf-idf与TextRank对所述揭露语料库进行处理,并进行人工筛选,获取若干能够代表所述揭露语料库的关键词;
S6.2:利用tf-idf与TextRank对所述待测文本进行处理,并进行人工筛选,获取若干能够代表所述待测文本的关键词;
S6.3:将所述揭露语料库的关键词与所述待测文本的关键词进行匹配,根据匹配结果,修正所述预测标签。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010581302.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:车辆悬置系统的优化方法及装置
- 下一篇:一种用于齿轮轻量化减重的加工设备