[发明专利]语料标注方法及装置在审
申请号: | 201810644479.0 | 申请日: | 2018-06-21 |
公开(公告)号: | CN108829679A | 公开(公告)日: | 2018-11-16 |
发明(设计)人: | 吴健君;倪嘉呈 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06F17/27 | 分类号: | G06F17/27;G06F17/30 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 王宝筠 |
地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 标注 语料 语料库 训练语料库 词向量 向量 聚类簇 聚类 转换 | ||
1.一种语料标注方法,其特征在于,包括:
对待标注语料库中的各语料进行切词,获得所述待标注语料库对应的多个待转换词;
根据训练语料库对应的各词的词向量确定所述待标注语料库对应的各待转换词的词向量,其中,所述训练语料库对应的各词是对所述训练语料库中各语料进行切词后得到的;
根据所述待标注语料库对应的各待转换词的词向量确定所述待标注语料库中各语料的语料向量;
对各语料向量进行聚类,获得多个聚类簇,对各聚类簇进行标注。
2.根据权利要求1所述的方法,其特征在于,所述根据训练语料库对应的各词的词向量确定所述待标注语料库对应的各待转换词的词向量,包括:
对所述待标注语料库对应的任一个待转换词:在训练语料库对应的各词中查找该待转换词,如查找到,则从所述训练语料库对应的各词的词向量中确定该转换词的词向量。
3.根据权利要求1或2所述的方法,其特征在于,所述根据所述待标注语料库对应的各待转换词的词向量确定所述待标注语料库中各语料的语料向量,包括:
确定所述待标注语料库对应的各待转换词的权重;
根据所述待标注语料库对应的各待转换词的词向量和所述权重确定所述待标注语料库中各语料的语料向量。
4.根据权利要求3所述的方法,其特征在于,所述根据所述待标注语料库对应的各待转换词的词向量和所述权重确定所述待标注语料库中各语料的语料向量,包括:
通过公式
计算获得所述待标注语料库中各语料的语料向量v(qj),其中,所述j为所述待标注语料库中语料的编号,所述i为语料切词得到的各待转换词的编号,所述qj为所述待标注语料库中编号为j的语料,所述n为语料qj切词得到的各转换词的数量,所述tij为编号为j的语料切词得到的编号为i的待转换词,所述w(tij)为待转换词tij的权重,所述v(tij)为待转换词tij的词向量,所述j、所述i和所述n均为自然数。
5.根据权利要求3所述的方法,其特征在于,所述确定所述待标注语料库对应的各待转换词的权重,包括:
根据公式
w(tij)=freq(tij)×idf(tij)
计算获得所述待标注语料库对应的各待转换词tij的权重w(tij),其中,所述j为所述待标注语料库中语料的编号,所述i为语料切词得到的各待转换词的编号,所述tij为编号为j的语料切词得到的编号为i的待转换词,所述freq(tij)为待转换词tij在编号为j的语料中出现的频次,所述idf(tij)为待转换词tij的逆文档频率,所述j和所述i均为自然数。
6.根据权利要求1所述的方法,其特征在于,在所述根据所述待标注语料库对应的各待转换词的词向量确定所述待标注语料库中各语料的语料向量之后,所述对各语料向量进行聚类之前,所述方法还包括:
对确定的各语料的语料向量进行归一化处理;
所述对各语料向量进行聚类,包括:
对归一化处理后的各语料向量进行聚类。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810644479.0/1.html,转载请声明来源钻瓜专利网。