[发明专利]一种垃圾网页检测方法有效
申请号: | 201710198162.4 | 申请日: | 2017-03-29 |
公开(公告)号: | CN107423319B | 公开(公告)日: | 2020-07-03 |
发明(设计)人: | 张亚平;马舒婕;于瑞国;喻梅;王建荣;孟莹 | 申请(专利权)人: | 天津大学 |
主分类号: | G06F16/9535 | 分类号: | G06F16/9535;G06F16/35 |
代理公司: | 天津市北洋有限责任专利代理事务所 12201 | 代理人: | 刘子文 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 垃圾 网页 检测 方法 | ||
1.一种垃圾网页检测方法,其特征在于,基于IPR算法和K-Means算法相结合形成有IPK-Means算法,包括以下步骤:
步骤一:对数据集进行K-Means算法,将全部对象n用数据集D存储;k值起始值为2,分别代表垃圾网页和非垃圾网页;
步骤二:对数据集D进行IPR计算,并将IPR值按照从高到低顺序进行排序,
IPR计算如下式所示
在上式中,N表示全部网页的个数,d代表矩阵,Bi为检测到的非垃圾网页数目;矩阵存储网页在最开始时的值;OUTX表示X向外指向了多少网页,首先统计Bi向外链接多少个页面,然后再将每个页面的所有链出页面都加起来;表示节点X的链出数在所有Bi指向节点的的链出数所占的比重,节点X也是根据这个比重分得Bi的IPR值;
步骤三:在数据集中选取IPR值最大和最小的网页作为初始的聚类中心C;
步骤四:计算数据集D中的xi与cj间的距离dist(xi,cj),并将dist(xi,cj)划分到与之相距最小的中心所处的簇中;其中xi是一个d维向量,表示第i个数据的d个不同属性;cj表示第j个中心,每个cj含有d个不同属性;
步骤五:查看聚集结束时的聚类中心,得到新的cj表达式;
步骤六:重复步骤四至步骤六,将目标函数用SSE表示,直到SSE取最小值时算法终止;即簇的平方误差取到最小的k个簇,从而得到最终的聚类结果,以此识别垃圾网页。
2.根据权利要求1所述一种垃圾网页检测方法,其特征在于,所述数据集D来源于WEBSPAM-UK2007数据集。
3.根据权利要求1所述一种垃圾网页检测方法,其特征在于,步骤三中,IPR值高的网页,表示该网页权威程度较高,则其属于非垃圾网页的概率增加;反之,其属于非垃圾网页的概率降低。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710198162.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:镀锡板生产线碱性废气处理系统
- 下一篇:一种高能离子除臭净化设备