[发明专利]一种面向医学骨科文本的文本推理方法、系统及介质

权利要求书

1.一种面向医学骨科文本的文本推理方法，其特征在于，包括将医学骨科文本P输入面向医学骨科文本的文本推理模型获得文本推理结果，所述文本推理模型包含分词器、知识编码器以及文本整合器，所述分词器用于对输入的医学骨科文本P进行分词，所述知识编码器用于将分词结果提取得到具有专业背景知识和时间敏感的文本，所述文本整合器用于将具有专业背景知识和时间敏感的文本进行文本整合得到最终的文本推理结果。

2.根据权利要求1所述的面向医学骨科文本的文本推理方法，其特征在于，所述输入的医学骨科文本P的描述包含L个句子s_i，每个句子包含T_i个单词，从而得到任意第i个句子中的任意第t个单词W_it，其中t∈[1,T]，T为第i个句子中的单词数量。

3.根据权利要求1所述的面向医学骨科文本的文本推理方法，其特征在于，所述分词器对输入的医学骨科文本P进行分词的步骤包括：

S1)对原始的医学骨科文本P进行分词；

S2)对分词得到的所有词向量引入位置嵌入编码；

S3)将对分词得到的所有词向量与对应的位置嵌入编码直接进行矩阵相加。

4.根据权利要求3所述的面向医学骨科文本的文本推理方法，其特征在于，步骤S2)中引入位置嵌入编码是通过向每个嵌入位置添加一个正弦曲线来实现的，且引入的位置嵌入编码的函数表达式为：

上式中，PE_(pos,2i)表示引入位置嵌入编码，pos为该词向量的位置，i为该词向量的维度，d_text为输入的文本特征的维度。

5.根据权利要求1所述的面向医学骨科文本的文本推理方法，其特征在于，所述知识编码器为基于转换机结构的Roberta模型，所述基于转换机结构的Roberta模型被预先基于大型专业语料库OAI和MIMIC进行预训练以捕获隐性的专业医学知识，所述的知识编码器的编码步骤包括：

S1)用WordPiece的工具包来标记一个输入的医学骨科文本描述，得到|Q|个令牌的序列；

S2)将得到的上述|Q|个令牌的序列嵌入到完成预训练的Roberta模型中，并修改Roberta模型的位置编码，得到一系列d维的令牌表示；

S3)将这些信息输入到基于转换机结构的预先训练的知识编码器中，在训练过程中对一系列的令牌表示进行微调；

S4)对所有输出取平均，以得到组合隐式知识表示。