[发明专利]一种网站识别方法、装置、设备及存储介质有效
申请号: | 202011399531.4 | 申请日: | 2020-12-04 |
公开(公告)号: | CN112565250B | 公开(公告)日: | 2022-12-06 |
发明(设计)人: | 康雅萍;陈熠;胡铁 | 申请(专利权)人: | 中国移动通信集团内蒙古有限公司;中国移动通信集团有限公司 |
主分类号: | H04L9/40 | 分类号: | H04L9/40;H04L41/14;G06F16/33;G06F16/35;G06F40/216;G06F40/284;G06K9/62 |
代理公司: | 北京东方亿思知识产权代理有限责任公司 11258 | 代理人: | 赵秀芹 |
地址: | 010010 内蒙古*** | 国省代码: | 内蒙古;15 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 网站 识别 方法 装置 设备 存储 介质 | ||
1.一种网站识别方法,其特征在于,包括:
获取待识别网站的网页;
获取所述网页的第一文本内容和待识别网页截图;
提取所述待识别网页截图的第二文本内容;
提取所述第一文本内容的第一特征向量和所述第二文本内容的第二特征向量;
将所述第一特征向量输入至第一预设识别模型,得到所述待识别网站的第一网站识别类型;所述第一预设识别模型基于网站类型和网站网页的文本内容的特征向量训练得到;
将所述第二特征向量输入至第二预设识别模型,得到所述待识别网站的第二网站识别类型;所述第二预设识别模型基于网站类型和网站网页的网页截图中的文本内容的特征向量训练得到;
根据所述第一网站识别类型和所述第二网站识别类型,得到所述待识别网站的目标网站识别类型;
所述第二网站识别类型包括第三子网站识别类型、第四子网站识别类型中的至少一个;
所述提取所述第二文本内容的第二特征向量之前,还包括:
对所述第二文本内容进行分词处理,得到所述待识别网页截图的第二词集;
所述提取所述第二文本内容的第二特征向量,包括如下至少一项:
加载预设特征词集;基于所述预设特征词集及所述第二词集生成第二特征词向量;
加载预设特征词袋;基于所述预设特征词袋及所述第二词集生成第二TF-IDF向量;
所述将所述第二特征向量输入至第二预设识别模型,得到所述待识别网站的第二网站识别类型,包括如下至少一项:
将所述第二特征词向量输入第三预设子识别模型,得到所述待识别网站的第三子网站识别类型;所述第三预设子识别模型为基于网站类型和特征词向量训练得到的支持向量机SVM;
将所述第二TF-IDF向量输入至第四预设子识别模型,得到所述待识别网站的第四子网站识别类型;所述第四预设子识别模型为基于网站类型和TF-IDF向量训练得到的SVM。
2.根据权利要求1所述的网站识别方法,其特征在于,所述获取待识别网站的网页之前,还包括:
提取用户上网日志中的网站域名;
确定所述网站域名是否属于预设已识别域名集合;
在所述网站域名不属于所述预设已识别域名集合的情况下,将所述网站域名确定为待识别网站;
所述获取待识别网站的网页,包括:
控制模拟客户端访问所述待识别网站的网页。
3.根据权利要求1所述的方法,其特征在于,所述获取所述网页的第一文本内容,包括:
获取所述网页的超文本标记语言HTML文件;
将所述HTML文件确定为第一文本内容。
4.根据权利要求3所述的方法,其特征在于,所述第一预设识别模型包括第一预设子识别模型、第二预设子识别模型中的至少一个;
所述提取所述第一文本内容的第一特征向量之前,还包括:
对所述HTML文件进行分词处理,得到所述HTML文件的第一词集;
所述提取所述第一文本内容的第一特征向量,包括如下至少一项:
加载预设特征词集;基于所述预设特征词集及所述第一词集生成第一特征词向量;
加载预设特征词袋;基于所述预设特征词袋及所述第一词集生成第一TF-IDF向量;
所述将所述第一特征向量输入至第一预设识别模型,得到所述待识别网站的第一网站识别类型,包括如下至少一项:
将所述第一特征词向量输入至第一预设子识别模型,得到所述待识别网站的第一子网站识别类型;所述第二预设子识别模型为基于网站类型和特征词向量训练得到的SVM;
将所述第一TF-IDF向量输入至第二预设子识别模型,得到所述待识别网站的第二子网站识别类型;所述第二预设子识别模型为基于网站类型和TF-IDF向量训练得到的SVM。
5.根据权利要求4所述的方法,其特征在于,所述对所述HTML文件进行分词处理,得到所述HTML文件的第一词集之前,还包括:
对所述HTML文件进行去HTML标签处理,得到去标签后的HTML文件;
所述对所述HTML文件进行分词处理,得到所述HTML文件的第一词集,包括:
对所述去标签后的HTML文件进行分词处理,得到所述HTML文件的第一词集。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国移动通信集团内蒙古有限公司;中国移动通信集团有限公司,未经中国移动通信集团内蒙古有限公司;中国移动通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011399531.4/1.html,转载请声明来源钻瓜专利网。