[发明专利]段落向量化的方法和装置有效
申请号: | 201611260591.1 | 申请日: | 2016-12-30 |
公开(公告)号: | CN108268431B | 公开(公告)日: | 2019-12-03 |
发明(设计)人: | 石鹏;姜珂 | 申请(专利权)人: | 北京国双科技有限公司 |
主分类号: | G06F17/22 | 分类号: | G06F17/22;G06F17/27;G06F16/35 |
代理公司: | 11240 北京康信知识产权代理有限责任公司 | 代理人: | 韩建伟;张永明<国际申请>=<国际公布> |
地址: | 100083 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 向量化 转换 方法和装置 特征集合 句子 知识库 上下文计算 内容结构 特征词 构建 聚类 向量 预设 文本 替代 | ||
1.一种段落向量化的方法,其特征在于,包括:
构建包括多个特征词的特征集合;
基于预设知识库对待处理段落中的词进行替代,得到转换后段落;
将所述转换后段落中属于所述特征集合的词作为所述转换后段落的特征,对所述转换后段落进行向量化;
其中,基于预设知识库对待处理段落中的词进行替代,得到转换后段落包括:
基于所述预设知识库对所述待处理段落中的全部词或部分词的表示方式进行变换,得到所述转换后段落;
构建包括多个特征词的特征集合包括:基于所述预设知识库对包括多个段落的段落集合中的词进行替代,得到转换后段落集合;确定所述转换后段落集合的特征;从所述转换后段落集合的特征中选取预设数量的特征,构成所述特征集合。
2.根据权利要求1所述的方法,其特征在于,从所述转换后段落集合的特征中选取预设数量的特征,包括:
计算所述转换后段落集合的特征中每一个特征的信息熵增益;
按照信息熵增益从大到小的顺序从所述转换后段落集合的特征中选取预设数量的特征。
3.根据权利要求1所述的方法,其特征在于,基于所述预设知识库对包括多个段落的段落集合中的词进行替代之前,包括:
使用一阶依存语法将所述段落集合中相同含义的词进行聚类。
4.根据权利要求1-3任一项所述的方法,其特征在于,所述知识库包括词林的词分类知识库、专业词汇词典知识库和命名实体识别知识库。
5.一种段落向量化的装置,其特征在于,包括:
构建模块,用于构建包括多个特征词的特征集合;
转换模块,用于基于预设知识库对待处理段落中的词进行替代,得到转换后段落;
向量化模块,用于将所述转换后段落中属于所述特征集合的词作为所述转换后段落的特征,对所述转换后段落进行向量化;
其中,所述转换模块用于通过以下步骤来基于预设知识库对待处理段落中的词进行替代,得到转换后段落:基于所述预设知识库对所述待处理段落中的全部词或部分词的表示方式进行变换,得到所述转换后段落;
所述构建模块包括:替代模块,用于基于所述预设知识库对包括多个段落的段落集合中的词进行替代,得到转换后段落集合;确定模块,用于确定所述转换后段落集合的特征;选取模块,用于从所述转换后段落集合的特征中选取预设数量的特征,构成所述特征集合。
6.根据权利要求5所述的装置,其特征在于,所述选取模块,包括:
计算模块,用于计算所述转换后段落集合的特征中每一个特征的信息熵增益;
选取子模块,用于按照信息熵增益从大到小的顺序从所述转换后段落集合的特征中选取预设数量的特征。
7.根据权利要求5所述的装置,其特征在于,所述构建模块还包括:
聚类模块,用于在所述替代模块基于所述预设知识库对包括多个段落的所述段落集合中的词进行替代前,使用一阶依存语法将所述段落集合中相同含义的词进行聚类。
8.根据权利要求5-7任一项所述的装置,其特征在于,所述知识库包括词林的词分类知识库、专业词汇词典知识库和命名实体识别知识库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京国双科技有限公司,未经北京国双科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201611260591.1/1.html,转载请声明来源钻瓜专利网。
- 上一篇:人工智能辅助识别的方法及装置
- 下一篇:一种节目工程文件的转换方法及装置