[发明专利]一种利用Topic Model的自动学习本体的方法

摘要

本发明提供了一种利用Topic Model的自动学习本体的方法，该方法支持自动的领域本体构建，发明了一种信息的计算概念之间语义相似性的度量方法，用来计算LDA模型产生的概念之间的语义相似性，这种自动学习本体的方法分为两步：第一步是从文本语料库或者web语料库中进行概念识别；第二步是利用本文定义的语义相似性度量CP进行概念之间的关系建立。该方法不需要有种子本体作为初始学习本体的辅助。实验结果表明本发明提出的利用Topic Model进行自动本体构建的方法是非常有效的。

主权项

1.一种利用Topic Model的自动学习本体的方法，其特征在于，包括以下步骤：第一步、利用LDA模型从给定的文献语料库中进行概念抽取，由抽取到的概念产生出概念集合，然后进行概念层次细分产生本体构建的层次结构G，G＝{T，E}，式中，T＝{t1，t2，…，tm}是概念集合，定义为上层概念集合；T’＝{t1’，t2’，...，tm’}是子概念集合，定义为上层概念集合T的下一层概念集合，概念集合T与子概念集合T’是相继的两层；E是边的集合，每个eij∈E表示概念集合T中的第i个概念ti与子概念集合T’中第j个概念tj’有边相连；第二步、利用CosTMI相似性度量方法，识别层次结构G中相继两层之间的语义相似性，其中，上层概念集合T中第p个概念tp与概念tp的上下文中，下一层概念集合T’中第s个概念ts’和第r个概念tr’两个概念的语义相似度CosTMI(ts’，tr’；tp)式中，tp包含词汇序列{wp1，wp2，...，wpn}；ts’包含词汇序列{ws’1，ws’2，...，ws’n}；tr’包含词汇序列{wr’1，wr’2，...，wr’n}；PMI()是两个词汇的点互信息，两个词汇w与w’的点互信息为PMI(w，w’)，则有：式中，P(w，w’)＝P(w)P(w’|w)；式中，z是主题，P(z＝j)是主题为j时的概率，P(w|z＝j)是主题为j时，词汇w的条件概率，k是概念的数量；式中，P(w’|z＝j)是主题为j时候w’的条件概率，P(z＝j|w)是词汇为w时，主题j的条件概率；若CosTMI(ts’，tr’；tp)大于一定的阈值thc，则在tp和ts’、tr’建立关系；第三步、计算标准相似性度量L(ts’，tr’；tp)，式中，P(ts’|tp)是(是在tp上下文词汇环境下ts’的发生的概率)，P(tr’|tp)是(是在tp上下文词汇环境下tr’的发生的概率)；在通过标准相似性度量L(ts’，tr’；tp)定义本体概念之间的关系时，每个通过Topic Model学习出的概念都对应一个本体的概念，每个概念ts’或者tr’在tp的上下文环境下的条件概率，用来计算同一层概念之间的语义相似度，值越小表明值的语义相似性越高；第四步、确定本体的层次结构设利用TopicModel学习出三个概念层次Th、Tm、Tl，Th是最高层次，Tm是中间层次，Tl是最低层次，这三个变量的熵记为H(Th)、H(Tm)、H(Tl)，H(Tl|Tm)是信息领域中的条件熵，则相继两层的概念集合信息增益Δ(I(Th，Tm，Tl))定义为：Δ(I(Th，Tm，Tl))＝H(Th)‑H(Tl|Tm)当Δ(I(Th，Tm，Tl))小于规定的阈值ω时，停止利用LDA模型学习概念集合。