[发明专利]对实体词的语义关系进行分类的方法、装置和电子设备

说明书

本申请实施例提供一种对文本序列中实体词的语义关系进行分类的方法、装置和电子设备，该装置包括：第一获得单元，其用于将文本序列中的每个词用词向量表示，以构建第一矩阵；第二获得单元，其利用深度学习模型对所述第一矩阵进行处理，以获得第二矩阵；第三获得单元，其利用2个以上的注意力模型，对所述第二矩阵进行处理，以确定所述文本序列中词的受关注程度，并基于所述受关注程度获得所述文本序列的第三矩阵；分类单元，其至少根据所述文本序列的所述第三矩阵，以及预先存储的分类模型，来确定所述文本序列中的实体词之间的语义关系。根据本实施例，能够提高分类效率。

技术领域

本申请涉及信息技术领域，尤其涉及一种对文本序列中实体词的语义关系进行分类的方法、装置和电子设备。

背景技术

实体词的语义关系分类是指，确定文本序列中的实体词之间的语义关系属于预定的语义关系中的哪一类，该预定的语义关系例如可以是上位概念与下位概念的关系、动宾关系等，例如，在句子“e1机器e1产生了大量e2噪音e2”中，确定实体词e1与实体词e2之间的关系为：因-果(e1，e2)。

在自然语言处理领域，实体词的语义关系分类较受关注，因为语义关系分类在信息抽取、信息检索、机器翻译、问答、知识库建设和语义消歧等任务中都有重要的应用价值。

在现有的实体词的语义关系分类方法中，可以利用基于长短期记忆(Long-ShortTerm Memory，LSTM)单元的递归神经网络(Recurrent Neural Network，RNN)模型来进行分类，该模型能有效利用序列数据中长距离依赖信息的能力，因此对于文本序列数据的处理非常有效。

应该注意，上面对技术背景的介绍只是为了方便对本申请的技术方案进行清楚、完整的说明，并方便本领域技术人员的理解而阐述的。不能仅仅因为这些方案在本申请的背景技术部分进行了阐述而认为上述技术方案为本领域技术人员所公知。

发明内容

本申请的发明人发现，在语义关系分类任务重时，句子中的其它词对实体词的重要程度是不同的，对于分类结果的影响也是不同的。当文本序列中的词的数量较少时，现有的实体词的语义关系分类方法能够高效地进行分类，而当文本序列中的词的数量较多时，由于存在大量对分类结果影响不大的词，所以分类的效率会降低。

本申请的实施例提供一种对实体词的语义关系进行分类的方法、装置和电子设备，通过引入注意力模型(Attention Model)来确定文本序列中词的受关注程度，进而基于受关注程度对实体词之间的语义关系进行分类，由此，能够提高分类的效率。

根据本申请实施例的第一方面，提供一种对文本序列中实体词的语义关系进行分类的装置，该装置包括：

第一获得单元，其用于将文本序列中的每个词用词向量表示，以构建第一矩阵；

第二获得单元，其利用深度学习模型对所述第一矩阵进行处理，以获得第二矩阵，其中，所述第二矩阵的行或列与所述文本序列中的词对应；

第三获得单元，其利用2个以上的注意力模型，对所述第二矩阵进行处理，以确定所述文本序列中词的受关注程度，并基于所述受关注程度获得所述文本序列的第三矩阵；

分类单元，其至少根据所述文本序列的所述第三矩阵，以及预先存储的分类模型，来确定所述文本序列中的实体词之间的语义关系。

根据本申请实施例的第二方面，提供一种对文本序列中实体词的语义关系进行分类的方法，该方法包括：

将文本序列中的每个词用词向量表示，以构建第一矩阵；

利用深度学习模型对所述第一矩阵进行处理，以获得第二矩阵，其中，所述第二矩阵的行或列与所述文本序列中的词对应；

利用2个以上的注意力模型，对所述第二矩阵进行处理，以确定所述文本序列中词的受关注程度，并基于所述受关注程度获得所述文本序列的第三矩阵；以及