[发明专利]一种基于深度学习模型的自动识别古籍引书系统和方法

权利要求书

1.一种基于深度学习模型的自动识别古籍引书系统，其特征在于，包括：

语料预处理模块；根据试验需求以及模型对语料要求，将语料进行清洗与处理，按照比例划分训练集和验证集；

语言模型预训练模块；选择需要的预训练模型SIKU-BERT、SIKU-RoBERTa；

引书条目识别试验模块；在预训练模型基础上，对模型参数进行调优；

引书条目识别效果测评模块；结合国内外对实体识别评价的常用指标，选择准确率(Precision)、召回率(Recall)、F值(F-Measure)三个指标来衡量模型性能。

2.一种基于深度学习模型的自动识别古籍引书方法，其特征在于，包括如下步骤：

S1、选取古籍的数字化文本为语料，将引书看做名词性指称的实体，人工对其进行标注，并规定标记符号为“【】”，以此构建实验语料；对标注了引书条目的语料依次进行文本格式转换、合并以及数据预处理，再去掉标点选用5-tag作为标记集拆分成字，形成训练语料；5-tag标记集采用{B-seg，M-seg，E-seg，S-seg，N-seg}标注方式，即B-seg表示实体的开始，M-seg表示实体的中间部分，E-seg表示实体的结尾，S-seg表示单字实体，非实体用N-seg表示；为适应模型的数据需求，将训练语料格式改为标签+制表符+文本数据；

S2、基于PyTorch深度学习框架编写模型训练程序，加载古文领域深度学习模型SIKU-BERT、SIKU-RoBERTa对文本进行处理，调整模型到合适参数，对训练集进行迭代训练，直至训练结束；

S3、对实验所得的模型性能进行评价，采用的指标为准确率、召回率、F值，评估完成后，选择效果最优的模型进行保存；

S4、搭建模型调用接口，从而方便用户进行直接使用，可实现用户直接输入古籍原文到对古籍引书的自动识别。

3.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：所述步骤S1中的语料原文均可在网上直接获取，且所有标注的条目均为人工历经三轮对其进行标注及校对；古籍引书的认定标准为：直接引用了原文或部分原文的明引类型；对于隐引不考虑在内。

4.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：所述步骤S2中，语料的预训练模型是经过《四库全书》语料构建的，是纯古籍语料；参数设置为12-layer，768-hidden，12-heads，110M parameters，it模型共12层，隐层768维，12头模式，110M个参数；最大截断长度256，训练批次大小32，学习率2e-5，迭代次数10.0次。

5.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：所述步骤S3中，试验所采取的评价办法是基于十折交叉验证，在十次结果中选取最优值。

6.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：当模型保存完毕后，用户可直接通过用户接口，直接输入古籍原文，经模型判断后返回识别出的引书条目。