[发明专利]一种借助互联网构建分类语料库的方法及系统有效
申请号: | 201811032694.1 | 申请日: | 2018-09-05 |
公开(公告)号: | CN109271477B | 公开(公告)日: | 2020-07-24 |
发明(设计)人: | 闵勇 | 申请(专利权)人: | 杭州数湾信息科技有限公司;闵勇 |
主分类号: | G06F16/31 | 分类号: | G06F16/31;G06F16/35;G06N3/08 |
代理公司: | 杭州杭诚专利事务所有限公司 33109 | 代理人: | 尉伟敏 |
地址: | 310018 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及自然语言处理技术,具体涉及一种借助互联网构建分类语料库的方法,包括以下步骤:S1、设置目标类别;S2、设置信息源;S3、信息源评级;S4、信息采集和解析;S5、过滤后备文档语料集;S6、分类语料库输出。本发明的实质性效果是:在尽量降低人工干预水平的前提下,以互联网中带有明确分类标识和动态更新列表内容的页面为语料信息来源,结合网页排版特征和网页DOM节点拓扑结构特征,提高了网页主题语料提取的准确度,通过目标类别和信息源关键词的匹配评价体系,利用文本间量化相似性筛选互联网动态语料,构建出高质量文本分类语料库。 | ||
搜索关键词: | 一种 借助 互联网 构建 分类 语料库 方法 系统 | ||
【主权项】:
1.一种借助互联网构建分类语料库的方法,其特征在于,包括以下步骤:S1、设置目标类别:由用户设置目标类别,并设置若干个初始关键词;S2、设置信息源:由用户提供若干个信息源,或者由目标类别初始关键词提交搜索引擎检索结果前N条作为互联网信息源,所述每条信息源包括网址以及若干个信息源描述关键词;S3、信息源评级:计算信息源描述关键词与初始关键词的匹配度,根据信息源主体类型以及历史访问数据计算信息源可靠度,根据匹配度和可靠度对每条信息源评级;S4、信息采集和解析:对信息源进行信息采集和解析,获取信息源在设定时间区间内的文档列表,作为后备文档语料集;S5、过滤后备文档语料集:利用文本相似性算法,过滤后备文档语料;S6、分类语料库输出:将过滤后的后备文档语料作为目标类别的分类语料库输出。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州数湾信息科技有限公司;闵勇,未经杭州数湾信息科技有限公司;闵勇许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811032694.1/,转载请声明来源钻瓜专利网。