[发明专利]一种文本分割方法、装置、电子设备及介质有效

专利信息
申请号: 202110145811.0 申请日: 2021-02-02
公开(公告)号: CN112784574B 公开(公告)日: 2023-09-15
发明(设计)人: 黄诗磊;孙振华;张聪 申请(专利权)人: 网易(杭州)网络有限公司
主分类号: G06F40/205 分类号: G06F40/205;G06F40/30;G06N20/00
代理公司: 北京超凡宏宇知识产权代理有限公司 11463 代理人: 钟扬飞
地址: 310052 浙江省杭州*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 文本 分割 方法 装置 电子设备 介质
【权利要求书】:

1.一种文本分割方法,其特征在于,所述文本分割方法包括:

根据待分割文本中的标点符号分割所述待分割文本,获得至少一个粗分割子句;

根据依存句法分割每个粗分割子句,获得至少一个细分割子句;其中,所述细分割子句是以首个不与核心词具有除动词的并列关系之外的依存关系的词语,与之前的上一个词语之间的边界为分割点分割得到的;所述核心词为粗分割子句中首个与其他词语具有动词的并列关系的词语;

从所述至少一个细分割子句中筛选出动词超过预定数目的细分割子句;

如果筛选出动词超过预定数目的细分割子句,则对筛选出的动词超过预定数目的细分割子句进行语义分析处理,基于语义分析处理的结果确定所述待分割文本的文本分割结果。

2.根据权利要求1所述的文本分割方法,其特征在于,所述文本分割方法还包括:

如果未筛选出动词超过预定数目的细分割子句,则将所述至少一个细分割子句确定为所述待分割文本的文本分割结果。

3.根据权利要求1所述的文本分割方法,其特征在于,所述根据待分割文本中的标点符号分割所述待分割文本,获得至少一个粗分割子句,包括:

确定所述待分割文本中是否存在标点符号;

如果所述待分割文本中存在标点符号,则识别所述待分割文本中的标点符号,将按照识别出的属于特定标点符号的标点符号分割而得到的子句确定为粗分割子句;

如果所述待分割文本中不存在标点符号,则将所述待分割文本确定为粗分割子句。

4.根据权利要求1所述的文本分割方法,其特征在于,所述根据依存句法分割每个粗分割子句,获得至少一个细分割子句,包括:

通过依存句法对每个粗分割子句所包括的词语进行分析,获得每个粗分割子句所包括的词语之间的依存关系;

针对每个粗分割子句,确定词语之间是否存在属于动词的并列关系的依存关系;

如果词语之间存在属于动词的并列关系的依存关系,则按照词语从左至右的排列顺序,将依存关系属于动词的并列关系的词语中的首个词语确定为核心词;

以所述核心词所在位置为起点,向右搜索与所述核心词具有除动词的并列关系之外的依存关系的词语;

在搜索的过程中,将首个不与所述核心词具有除动词的并列关系之外的依存关系的词语与之前的上一个词语之间的边界确定为分割点;

基于所述分割点对相应的粗分割子句进行分割,获得至少一个细分割子句。

5.根据权利要求1所述的文本分割方法,其特征在于,所述根据依存句法分割每个粗分割子句,获得至少一个细分割子句,还包括:

如果词语之间不存在属于动词的并列关系的依存关系,则将词语之间不存在属于动词的并列关系的依存关系的粗分割子句确定为细分割子句。

6.根据权利要求1所述的文本分割方法,其特征在于,所述对筛选出的动词超过预定数目的细分割子句进行语义分析处理,基于语义分析处理的结果确定所述待分割文本的文本分割结果,包括:

使用预先训练好的机器学习模型对筛选出的动词超过预定数目的细分割子句执行人工智能相关的运算,获得筛选出的动词超过预定数目的细分割子句的子句分割结果;

将所述至少一个细分割子句中动词未超过预定数目的细分割子句和所述子句分割结果确定为所述待分割文本的文本分割结果。

7.根据权利要求6所述的文本分割方法,其特征在于,所述机器学习模型通过以下方式训练而被得到:

获取语料训练数据集;

基于获取的语料训练数据集,利用序列标注算法来训练用于预测细分割子句的子句分割结果的机器学习模型,

其中,所述语料训练数据集通过以下方式被获取:

获取单句语料,并过滤所述单句语料;

将过滤后的单句语料进行随机拼接,获得多个拼接语料;

确定每个拼接语料的困惑度值,将困惑度值小于预定阈值的拼接语料组成的集合确定为语料训练数据集。

8.根据权利要求3所述的文本分割方法,其特征在于,所述特定标点符号包括以下项中的至少一种:逗号、分号、句号、问号、感叹号和省略号。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110145811.0/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top