[发明专利]数据处理方法、装置、电子设备及存储介质有效
申请号: | 202110654575.5 | 申请日: | 2021-06-11 |
公开(公告)号: | CN113378025B | 公开(公告)日: | 2023-07-14 |
发明(设计)人: | 刘伟;陈由之;张博;林赛群 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F16/951 | 分类号: | G06F16/951;G06F40/289;G06F21/60 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 王萌 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 装置 电子设备 存储 介质 | ||
1.一种数据处理方法,包括:
获取网页的待处理数据;
对所述待处理数据进行采样处理,以得到采样数据;
从所述采样数据之中识别出与预设分隔符对应的数据内容,并采用所述预设分隔符对所述数据内容进行标记,以得到多个标记数据内容;以及
对所述多个标记数据内容进行融合处理,以得到目标数据;
其中,所述对所述待处理数据进行采样处理,以得到采样数据,包括:
如果与所述待处理数据对应的加密状态指示:所述待处理数据加密,则确定与所述待处理数据对应的数据量;
如果所述数据量小于或者等于数据量阈值,则对所述待处理数据进行解密处理,以得到解密数据;
对所述解密数据进行切词处理,以得到多个解密词;
确定与所述多个解密词分别对应的多个解密词向量表示,并将所述多个解密词向量表示作为所述采样数据;
其中,所述对所述待处理数据进行采样处理,以得到采样数据,还包括:
如果所述数据量大于所述数据量阈值,则确定与所述待处理数据对应的加密算法类型;
确定与所述加密算法类型对应的目标字符数,其中,所述目标字符数指示:与所述加密算法类型对应的数据单元所包括的字符数;
参考所述目标字符数对所述待处理数据进行切分处理,以得到多个切分数据段,并将所述多个切分数据段作为所述采样数据。
2.根据权利要求1所述的方法,其中,所述获取网页的待处理数据,包括:
接收加载请求消息,所述加载请求消息,用于在所述网页之中加载对应的动态信息;
根据所述加载请求消息获取所述对应的动态信息,并从所述动态信息之中解析得到所述待处理数据。
3.根据权利要求1所述的方法,其中,所述对所述待处理数据进行采样处理,以得到采样数据,包括:
确定与所述待处理数据对应的所述加密状态;
确定与所述加密状态对应的目标采样方式;
根据所述目标采样方式对所述待处理数据进行采样处理,以得到采样数据。
4.根据权利要求3所述的方法,其中,所述根据所述目标采样方式对所述待处理数据进行采样处理,以得到采样数据,包括:
如果所述加密状态指示:所述待处理数据未加密,则对所述待处理数据进行切词处理,得到多个初始词;
确定与所述多个初始词分别对应的多个初始词向量表示,并将所述多个初始词向量表示作为所述采样数据。
5.根据权利要求1所述的方法,其中,所述对所述多个标记数据内容进行融合处理,以得到目标数据,包括:
对所述多个标记数据内容进行拼接处理,以得到拼接数据;
根据与所述多个标记数据内容分别对应的多个预设分隔符,生成与所述多个标记数据内容分别对应的多种数据特征,将所述拼接数据和所述多种数据特征共同作为所述目标数据。
6.一种数据处理装置,包括:
获取模块,用于获取网页的待处理数据;
处理模块,用于对所述待处理数据进行采样处理,以得到采样数据;
识别模块,用于从所述采样数据之中识别出与预设分隔符对应的数据内容,并采用所述预设分隔符对所述数据内容进行标记,以得到多个标记数据内容;以及
融合模块,用于对所述多个标记数据内容进行融合处理,以得到目标数据;
其中,所述处理模块,具体用于:
如果与所述待处理数据对应的加密状态指示:所述待处理数据加密,则确定与所述待处理数据对应的数据量;
如果所述数据量小于或者等于数据量阈值,则对所述待处理数据进行解密处理,以得到解密数据;
对所述解密数据进行切词处理,以得到多个解密词;
确定与所述多个解密词分别对应的多个解密词向量表示,并将所述多个解密词向量表示作为所述采样数据;
如果所述数据量大于所述数据量阈值,则确定与所述待处理数据对应的加密算法类型;
确定与所述加密算法类型对应的目标字符数,其中,所述目标字符数指示:与所述加密算法类型对应的数据单元所包括的字符数;
参考所述目标字符数对所述待处理数据进行切分处理,以得到多个切分数据段,并将所述多个切分数据段作为所述采样数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110654575.5/1.html,转载请声明来源钻瓜专利网。