[发明专利]文本难度分级及训练方法、装置、电子设备及存储介质在审
申请号: | 202111641248.2 | 申请日: | 2021-12-29 |
公开(公告)号: | CN114491021A | 公开(公告)日: | 2022-05-13 |
发明(设计)人: | 王永杰 | 申请(专利权)人: | 上海流利说信息技术有限公司 |
主分类号: | G06F16/35 | 分类号: | G06F16/35;G06F16/36;G06F16/33;G06F40/216 |
代理公司: | 上海知锦知识产权代理事务所(特殊普通合伙) 31327 | 代理人: | 潘彦君 |
地址: | 200090 上海市杨浦区长阳路*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 难度 分级 训练 方法 装置 电子设备 存储 介质 | ||
1.一种文本难度分级训练方法,其特征在于,包括:
获取已标注的第一目标文本集,所述第一目标文本集包含各文本对应的难度真实值的标签数据,其中,所述第一目标文本集包括第一训练文本集;
对所述第一目标文本集中的各文本进行预处理,得到所述第一训练文本集中各文本对应的特征集;
根据所述第一训练文本集中各文本对应的特征集和预先设置的权重系数,建立难度分级评估模型;
获取未标注的第二目标文本集,并根据所述难度分级评估模型,计算所述未标注的第二目标文本集中各文本对应的难度伪标签值,得到已标注的第二目标文本集;
将所述第一训练文本集、所述已标注的第二目标文本集作为第二训练文本集输入至预设的预训练模型,对所述预训练模型进行训练,得到文本难度分级模型。
2.根据权利要求1所述的训练方法,其特征在于,所述根据所述第一训练文本集中各文本对应的特征集,建立难度分级评估模型,包括:
获取参考文本集;
提取所述参考文本集的特征,构建语典库,并计算所述语典库中各特征对应的难度值;
在所述语典库中,对所述第一训练文本集中各文本对应的特征集中的各特征进行检索,并根据所述预先设置的权重系数,建立所述难度分级评估模型。
3.根据权利要求2所述的训练方法,其特征在于,所述提取所述参考文本集的特征,构建语典库,并计算所述语典库中各特征对应的难度值,包括:
提取所述参考文本中集各文本的特征,按照特征类型统计各特征出现的频次,并按照所述各特征出现的频次进行排序,得到所述语典库,其中,所述语典库包括字典库和词典库;
分别根据所述字典库和所述词典库相应特征类型的排序结果,确定所述字典库中各字对应的难度值和所述词典库中各特征对应的难度值,并分别将得到的难度值进行归一化处理。
4.根据权利要求3所述的训练方法,其特征在于,所述对所述第一目标文本集中的各文本进行预处理,得到所述第一训练文本集中各文本对应的特征集,包括:
对所述第一目标文本集中的各文本进行拆分处理,得到所述第一训练文本集中各文本对应的特征集,所述特征集中的特征类型包括以下至少一种:字、词。
5.根据权利要求4所述的训练方法,其特征在于,所述在所述语典库中,对所述第一训练文本集中各文本对应的特征集中的各特征进行检索,并根据所述预先设置的权重系数,建立所述难度分级评估模型,包括:
在所述字典库中,对所述第一训练文本集中各文本对应的特征集中的字进行检索,在检索到相同的字时,将所述字典库中对应字的难度值作为所述第一训练文本集中各文本对应的特征集中的字的难度值;并在未检索到相同的字时,将所述第一训练文本集中各文本对应的特征集中的字的难度值设为1;
在所述词典库中,对所述第一训练文本集中各文本对应的特征集中的词与所述词典库中的各词进行检索,在检索到相同的词时,将所述词典库中对应词的难度值作为所述第一训练文本集中各文本对应的特征集中的词的难度值;并在未检索到相同的词时,将所述第一训练文本集中各文本对应的特征集中的字的难度值设为1;
分别统计所述第一训练文本集中各文本对应的特征集中的字数和词数,并根据统计到的所述第一训练文本集中各文本对应的特征集中的字数和词数,以及各字和各词对应的难度值,计算所述第一训练文本集中各文本对应的特征集中字、词的难度平均值,并根据预先设置的权重系数,建立所述难度分级评估模型,并对所述难度分级评估模型进行调整,其中,所述难度分级评估模型为:
L=α*Wav*Wn+β*Vav*Vn;
其中,L用于表征文本的难度评估值;Wav用于表征所述文本对应的特征集中所有字的难度平均值;Wn用于表征所述文本对应的特征集中所有的字数;Vav用于表征所述文本对应的特征集中所有词的难度平均值;Vn用于表征所述文本对应的特征集中所有的词数;α用于表征字的权重系数,β用于表征词的权重系数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海流利说信息技术有限公司,未经上海流利说信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111641248.2/1.html,转载请声明来源钻瓜专利网。