[发明专利]文本压缩的方法和装置在审
申请号: | 201710984893.1 | 申请日: | 2017-10-20 |
公开(公告)号: | CN109697277A | 公开(公告)日: | 2019-04-30 |
发明(设计)人: | 赵辉;杨丽敏;刘诏;薛韬 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F17/22 | 分类号: | G06F17/22;H03M7/30 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;杨晓伟 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 高频编码 方法和装置 编码数据 类别编码 类别标签 文本压缩 编码库 文本块 源文本 海量文本数据 数据处理技术 传输 编码序列 多个类别 高效存储 海量文本 冗余关系 占用空间 文本 查找 压缩 | ||
1.一种文本压缩的方法,其特征在于,包括:
为源文本生成类别标签;
利用所述类别标签查找高频编码库中相应的类别编码库,所述高频编码库是指以高频文本块的编码数据形成的编码库,根据高频文本块所属类别的不同分为一个或多个类别编码库;
利用所述类别编码库中的编码数据对所述源文本进行编码序列化,得到压缩后文本。
2.根据权利要求1所述的方法,其特征在于,在为源文本生成类别标签之前,所述方法还包括:设置所述高频编码库。
3.根据权利要求2所述的方法,其特征在于,设置所述高频编码库包括:
将历史文本数据按照类别不同进行分类;
检索各类别中历史文本数据的高频文本块;
利用编码算法对所述高频文本块进行编码,生成编码数据;
将所述高频文本块与对应的所述编码数据的对应关系保存至按类别进行维度区分的高频编码库中。
4.根据权利要求3所述的方法,其特征在于,所述设置高频编码库还包括:
按照预设补充标准,利用新增热点文本数据中的高频文本块对应的编码数据动态补充所述高频编码库。
5.根据权利要求3或4所述的方法,其特征在于,所述编码算法为TF-IDF算法和/或LZW压缩算法。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:当所述压缩后文本有解码需求时,根据所述压缩后文本中包含的编码数据和所述编码数据与高频文本块的对应关系对所述压缩后文本进行解码反序列化,得到源文本。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:通过所述源文本生成的摘要和/或MD5值进行解码校验。
8.一种文本压缩的装置,其特征在于,包括:
分类模块,用于为源文本生成类别标签;
查找模块,用于利用所述类别标签查找高频编码库中相应的类别编码库,所述高频编码库是指以高频文本块的编码数据形成的编码库,根据高频文本块所属类别的不同分为一个或多个类别编码库;
压缩模块,用于利用所述类别编码库中的编码数据对所述源文本进行编码序列化,得到压缩后文本。
9.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710984893.1/1.html,转载请声明来源钻瓜专利网。