[发明专利]一种违禁信息的检测方法及装置在审
申请号: | 201710375296.9 | 申请日: | 2017-05-24 |
公开(公告)号: | CN108960952A | 公开(公告)日: | 2018-12-07 |
发明(设计)人: | 李大霞 | 申请(专利权)人: | 阿里巴巴集团控股有限公司 |
主分类号: | G06Q30/06 | 分类号: | G06Q30/06;G06F17/27 |
代理公司: | 北京同达信恒知识产权代理有限公司 11291 | 代理人: | 朱佳 |
地址: | 英属开曼群岛大开曼*** | 国省代码: | 开曼群岛;KY |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 检测 分词 类描述 产品提供方 互联网技术 信息包含 信息分割 信息检测 复杂度 计算量 准确率 门限 判定 集合 重现 概率 申请 | ||
1.一种违禁信息的检测方法,其特征在于,包括:
确定待检测的产品,并获取对应该产品设置的至少两类描述信息;
按照设定方式对获得的至少两类描述信息包含的文字进行分词操作,获得待检测分词集合;
基于所述待检测分词集合包含的至少一个待检测分词的出现次数,计算所述待检测分词集合包含违禁信息的概率;
确定所述概率达到设定门限值时,判定所述至少两类描述信息中包含有违禁信息。
2.如权利要求1所述的方法,其特征在于,在获得所述至少两类描述信息之后,在进行分词划分之前,进一步包括:
基于预设的文本转换条件,对获得的至少两类描述信息进行文本预处理。
3.如权利要求2所述的方法,其特征在于,所述文本预处理包含以下操作中的任意一种或任意组合:
将获得的至少两类描述信息中所有的大写字母转换为小写字母;
将获得的至少两类描述信息中所有的全角字符转换为半角字符;
将获得的至少两类描述信息中所有的繁体文字转换为简体文字;
将获得的至少两类描述信息中的指定特殊字符去除;
将获得的至少两类描述信息中的指定词汇去除。
4.如权利要求1、2或3所述的方法,其特征在于,按照设定方式对获得的至少两类描述信息包含的文字进行分词操作,获得待检测分词集合,包括:
按照预设的不同粒度,对获得的所述至少两类描述信息中包含的文字进行分词划分,获得划分分词集合,其中,所述粒度表征分词划分时采用的断句方式;
将从至少两类描述信息中划分获得的分词进行任意组合,获得组合分词集合;
将所述划分分词集合和所述组合分词集合进行汇总,获得待检测分词集合。
5.如权利要求1、2或3所述的方法,其特征在于,基于所述待检测分词集合包含的至少一个待检测分词的出现次数,计算所述待检测分词集合包含违禁信息的概率,包括:
从所述待检测分词集合中选定使用的待检测分词,并确定使用的待检测分词的出现次数;
确定对应使用的待检测分词预设的权值,所述权值是采用待检测分词样本进行训练学习后获得的;
基于使用的待检测分词的出现次数和对应的权值,计算所述待检测分词集合包含违禁信息的概率。
6.如权利要求5所述的方法,其特征在于,从所述待检测分词集合中选定使用的待检测分词之前,进一步包括:
统计待检测分词包含的待检测分词的出现次数;
筛选出出现次数最多的N个待检测分词,所述N为预设参数。
7.如权利要求5所述的方法,其特征在于,确定对应使用的待检测分词预设的权值,包括:确定对应使用的待检测分词预设的至少一个类别的权值;
基于使用的待检测分词的出现次数和对应的权值,计算所述待检测分词集合包含违禁信息的概率,包括:基于使用的待检测分词的出现次数和所述至少一个类别的权值,针对所述至少一个类别,计算所述待检测分词集合中包含违禁信息的概率。
8.如权利要求7所述的方法,其特征在于,确定所述概率达到设定门限值时,判定所述至少两类描述信息中包含有违禁信息,包括:
若仅针对一个类别,计算所述待检测分词集合中包含违禁信息的概率,则在确定所述概率达到设定门限值时,判定所述至少两类描述信息中包含有针对所述一个类别的违禁信息;
若针对至少两个类别,分别计算所述待检测分词集合中包含违禁信息的概率,则在确定最大概率达到设定门限值时,判定所述至少两类描述信息中包含有针对所述最大概率对应的类别的违禁信息。
9.一种信息检测方法,其特征在于,包括:
获取预设产品对应的至少两类描述信息;
获取与所述至少两类描述信息对应的分词集合;
基于所述分词集合包含的至少一个分词的出现次数及对应的类别,判断所述分词集合是否包含目标信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴集团控股有限公司,未经阿里巴巴集团控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710375296.9/1.html,转载请声明来源钻瓜专利网。