[发明专利]文本处理装置、方法、设备和计算机可读存储介质

权利要求书

1.一种文本处理装置，包括：

分词单元，配置成对于输入文本进行分词获得多个实体词语，其中，所述多个实体词语包括文字实体词语和数字实体词语；

向量转换单元，配置成对于所述多个实体词语中的每一个实体词语，基于文字实体词典，将所述文字实体词语选择性地转换成文字实体向量，将所述数字实体词语转换成未知实体向量；以及

预测单元，配置成基于所述文字实体向量和未知实体向量确定文本摘要，其中，对于所述未知实体向量，从所述输入文本中复制所述未知实体向量所对应的实体词语作为所述文本摘要中的词语。

2.根据权利要求1所述的装置，还包括词典单元，配置成：

获取文本数据集；

识别所述文本数据集中的文字实体；

将所述文本数据集中的文字实体映射成文字实体向量，以获得所述文字实体词典，其中，所述文字实体词典表示文字实体与该文字实体的文字实体向量之间的映射关系。

3.根据权利要求1所述的装置，其中，所述向量转换单元确定文字实体词典中是否包括该文字实体词语；

将所述文字实体词典中包括的文字实体词语转换成文字实体向量；以及

将所述文字实体词典中不包括的文字实体词语转换成未知实体向量。

4.根据权利要求1所述的装置，其中，所述预测单元基于所述文字实体向量和未知实体向量生成预测概率分布；基于所述预测概率分布确定文本摘要词语向量；以及基于所述文本摘要词语向量确定文本摘要中的词语，其中，在所述文本摘要词语向量为未知实体向量的情况下，从所述输入文本中复制所述未知实体向量所对应的实体词语作为所述文本摘要中的词语，

其中，所述预测单元利用生成式神经网络基于所述文字实体向量和未知实体向量生成预测概率分布，其中，所述预测概率分布表示所述文字实体词典和输入文本中的词语作为文本摘要中的词语的概率分布；以及

将所述预测概率分布中概率值最高的向量确定为所述文本摘要词语向量。

5.根据权利要求4所述的装置，其中，所述预测单元在所述文本摘要词语向量为所述未知实体向量的情况下，从所述输入文本中复制所述未知实体向量所对应的实体词语作为所述文本摘要中的词语；以及

在所述文本摘要词语向量为所述文字实体向量的情况下，所述预测单元基于所述文字实体词典将所述文字实体向量转换成文字实体词语，作为所述文本摘要中的词语。

6.根据权利要求5所述的装置，其中，所述生成式神经网络是包括编码神经网络和解码神经网络的指针生成神经网络，在每一时间步，所述指针生成神经网络生成所述预测概率分布时间步时间步，所述预测单元：

对于每一时间步，利用所述编码神经网络基于所述文字实体向量和未知实体向量生成编码隐藏状态向量；

利用解码神经网络基于所述编码隐藏状态向量生成解码隐藏状态向量；

基于所述编码隐藏状态向量和解码隐藏状态向量生成注意力概率分布和生成词语概率分布，其中，所述注意力概率分布表示所述输入文本中的词语作为文本摘要中的词语的概率分布，所述生成词语概率分布表示所述文字实体词典中的词语作为文本摘要中的词语的概率分布；

基于所述注意力概率分布和生成词语概率分布确定当前时间步的预测概率分布。

7.根据权利要求4所述的装置，还包括训练单元，配置成训练所述生成式神经网络，包括：

从文本数据集获取训练样本作为所述输入文本；

确定所述输入文本的文本摘要样本；

基于所述输入文本和所述文本摘要样本训练所述生成式神经网络。