[发明专利]用于多实例学习的注意力过滤

权利要求书

1.一种用于过滤数据的集合的计算机实现的方法，所述数据的集合包含多个数据实例，所述方法包含：

接收所述数据的集合的得分的集合；

基于所述数据的集合中的所述数据实例之间的一个或多个关系的先验知识来确定注意力过滤信息，并且计算与所述数据实例和所述得分的集合相对应的注意力相关性权重；以及

将所述注意力过滤信息提供给机器学习ML技术或机器学习模型。

2.根据权利要求1所述的计算机实现的方法，其中，计算所述注意力相关性权重包含搜索注意力相关性权重的集合，所述注意力相关性权重的集合基于所述得分的集合以及在所述数据的集合中的所述数据实例之间的一个或多个关系的先验知识来使成本函数最小化。

3.根据权利要求1或2所述的计算机实现的方法，其中：

确定所述注意力过滤信息进一步包含通过计算所述计算的注意力相关性权重和与所述数据的集合的相应数据实例相关联的编码向量的加权组合来过滤所述数据的集合中的所述数据实例；以及

提供所述注意力过滤信息进一步包含将表示所述过滤的数据实例的数据提供给所述机器学习技术或机器学习模型。

4.根据权利要求1所述的计算机实现的方法，其中：

确定所述注意力过滤信息进一步包含：

基于所述评分向量计算注意力权重；并且

计算所述计算的注意力相关性权重和与所述数据的集合的对应数据实例相关联的编码向量的加权组合；并且

提供所述注意力过滤信息进一步包含将表示所述加权组合和数据实例之间的一个或多个关系的所述先验知识的数据提供给所述机器学习技术或所述机器学习模型。

5.根据任一项前述权利要求所述的计算机实现的方法，其中所述数据的集合是训练数据集的标记的训练数据的集合，所述训练数据集包含多个标记的训练数据的集合，其中每个标记的训练数据的集合包含多个训练数据实例，并且其中每个标记的训练数据的集合被过滤。

6.根据权利要求5所述的计算机实现的方法，其中，所述多个训练数据实例中的每一个表示一个或多个实体之间的关系。

7.根据权利要求5或6所述的计算机实现的方法，其中，每个训练数据的集合的每个训练数据实例与关于关系y_n的相同标记相关联，并且包含表示支持所述关系y_n为真或假的证据的数据。

8.根据任一项前述权利要求所述的计算机实现的方法，其中每个数据实例包含从文献语料库中提取的句子，所述句子描述多个实体之间的关系。

9.根据权利要求1至7中任一项所述的计算机实现的方法，其中每个数据实例包含从图像的语料库或图像中提取的图像或图像部分，所述数据实例是图像中的对象。

10.根据任一项前述权利要求所述的计算机实现的方法，其中，所述得分的集合基于对嵌入所述相应数据实例的特征编码向量进行操作的评分网络，所述评分网络基于神经网络结构。

11.根据任一项前述权利要求所述的计算机实现的方法，其中一个或多个关系的先验知识包含先验知识网络或图形的集合，每个先验知识网络或图形表示所述数据的集合的数据实例之间的特定类型的关系。

12.根据任一项前述权利要求所述的计算机实现的方法，其中所述先验知识图形的集合包含来自以下各项的组的一个或多个先验知识网络或图形：

引用网络或图形；或者

提供位于文献语料库中的同一文档中的数据实例之间的关系的指示的参考网络或图形；或者

提供位于文献语料库中的不同文档中的数据实例之间的关系的指示的参考网络或图形。