[发明专利]一种分布式文本检测方法及系统

摘要

本发明提供了一种分布式文本检测方法及系统。其中，对比库，收录素材；所述对比库采用分布式方式存储于不同的站点位置；分词库，收录分词及对应词性；分词模块进行分词；分词特征值生成模块生成分词词性特征值；分词自由向量维数确定模块确定分词自由向量维数；分词精简向量维数生成模块，生成分词精简向量维数；分词特征向量生成模块，生成分词特征向量；待鉴定文档分词模块用于对待鉴定文档进行分词，得到分词结果；待鉴定文档分词自由向量维数确定模块，确定分词自由向量维数；待鉴定文档分词精简向量维数生成模块，生成待鉴定文档分词精简向量维数；待鉴定文档分词特征向量生成模块，生成待鉴定文档分词特征向量；进行相似度比对。

主权项

1.一种分布式文本检测系统，其特征在于，包括：对比库，用于收录用作对比对象的素材；所述对比库采用分布式方式存储于不同的站点位置；访问对比库时根据不同站点的负载情况选取特定站点进行访问；所述对比库进一步包括书籍库、论文库、专利库、公式库、谚语俗语库、谚语库、名人名言库、诗词库子库；分词库，用于收录分词及对应词性；分词库中针对每一分词进行唯一编号，使用W_ID表示某一分词在分词库中的唯一编号；分词模块，用于对各素材进行分词，并将分词结果保存至对比库中；分词模块将分词结果与分词库保存的词性进行比对，确定分词结果的词性；分词特征值生成模块统计每一个分词在对应素材中出现的数量，生成每一个分词对应的分词词性特征值WCCV＝[W_ID,W_N，W_CHAR]，WCV＝[W_ID,W_N]，其中W_ID表示该分词在分词库中的唯一编号，W_N表示该分词在该素材中出现的总次数；W_CHAR表示该分词的词性；分词自由向量维数确定模块根据素材的分词结果确定分词自由向量维数WFV；所述分词自由向量维数WFV等于对特定素材进行分词后得到的不同分词的数量；分词精简向量维数生成模块，用于对每个素材的分词自由向量维数WFV进行精简，生成分词精简向量维数RWV；分词特征向量生成模块，用于根据分词精简向量维数RWV提取每个素材中所述分词精简向量维数RWV对应的特征值生成分词特征向量WVE_RWV；WVE_RWV＝[W_ID1,W_N1,...,W_IDi,W_Ni,...,W_IDRWV,W_NRWV]其中W_IDi表示分词在分词库中的唯一编号，W_Ni,表示该分词在该素材中出现的总次数，将该次数作为该分词的特征值；用户访问方式检测模块，用于提示用户上传待鉴定文档；用户检测模式确定模块，用于判断当前用户检测模式为普通抄袭鉴定模式时，待鉴定文档分词模块用于对待鉴定文档进行分词，得到分词结果；待鉴定文档分词自由向量维数确定模块，用于根据待鉴定文档的分词结果确定分词自由向量维数WFV_TBI；待鉴定文档分词精简向量维数生成模块，用于对待鉴定文档的分词自由向量维数WFV_TBI进行精简；生成待鉴定文档分词精简向量维数RWV_TBI；待鉴定文档分词特征向量生成模块，根据分词精简向量维数RWV_TBI提取每个待鉴定文档中与所述待鉴定文档分词精简向量维数RWV_TBI对应的特征值生成待鉴定文档分词特征向量WVE_RWV_TBI，其中WVE_RWV_TBI＝[W_ID1,W_N1,...,W_IDi,W_Ni,...,W_IDRWV_TBI,W_NRWV_TBI]其中W_IDi表示分词在分词库中的唯一编号，W_Ni表示该分词在该待鉴定文档中出现的总次数，将该次数作为该分词的特征值；用户检测模式确定模块判断当前用户检测模式为普通抄袭鉴定模式时，进行相似度比对时，待鉴定文档分词特征向量生成模块生成待鉴定文档的分词特征向量WVE_RWV_TBI；WVE_RWV_TBI＝[W_ID1,W_N1,...,W_IDi,W_Ni,...,W_IDRWV_TBI,W_NRWV_TBI]，待鉴定文档的分词特征向量的维数为RWV_TBI；分词特征向量生成模块生成对比库中素材的分词特征向量WVE_RWV；WVE_RWV＝[W_ID1,W_N1,...,W_IDi,W_Ni,...,W_IDRWV,W_NRWV]；其中，待鉴定文档的分词特征向量的维数RWV_TBI等于分词特征向量的维数RWV；待鉴定文档特征向量调整模块，用于将分词特征向量WVE_RWV_TBI中的所有特征值对应的W_IDi值按照分词库中的编号进行升序或降序排列，并将缺少的W_IDi值插入，插入的分词编号W_IDi所对应的特征值为0；得到扩展的待鉴定文档分词特征向量WVE_RWV_TBI_EXT＝[W_IDTBI_EXT_1,W_NTBI_EXT_1,...,W_IDTBI_EXT_i,W_NTBI_EXT_i,...,W_IDTBI_EXT_RWV_TBI,W_NTBI_EXT_RWV_TBI,...,W_IDW,W_NW]；素材特征向量调整模块，用于将分词特征向量WVE_RWV中的所有特征值对应的W_IDi值按照分词库中的编号进行升序或降序排列，并将缺少的W_IDi值插入，插入的分词编号W_IDi所对应的特征值为0；得到扩展的分词特征向量WVE_RWV_EXT＝[W_IDEXT_1,W_NEXT_1,...,W_IDEXT_i,W_NEXT_i,...,W_IDEXT_RWV,W_NEXT_RWV,...,W_IDW,W_NW]；普通抄袭鉴定相似度计算模块，计算待鉴定文档与对比库中的任一素材的之间的相似度；通过以下公式计算：当待鉴定文档与所有素材对比完成后，提取所有疑似素材，将待鉴定文档与疑似素材进行进一步对比。