[发明专利]用上下文信息进行槽填充

权利要求书

1.一种包括用于图像编辑的人工神经网络(ANN)的系统，所述系统包括：

字词嵌入组件，所述字词嵌入组件被配置为将文本输入转换成字词向量集合；

所述ANN的特征编码器，所述特征编码器被配置为基于所述字词向量来针对所述文本输入创建组合特征向量；

所述ANN的评分层，所述评分层被配置为基于所述组合特征向量来计算标签分数，其中所述特征编码器、所述评分层或两者使用具有损失函数的多任务学习而被训练，所述损失函数包括第一损失值和附加损失值，其中所述附加损失值是根据互信息、基于上下文的预测或基于语句的预测的；

命令组件，所述命令组件被配置为基于所述标签分数来标识图像编辑命令；以及

图像编辑应用，所述图像编辑应用被配置为基于所述图像编辑命令来编辑图像。

2.根据权利要求1所述的系统，其中：

所述字词向量集合包括语义信息和词性(POS)信息。

3.根据权利要求1所述的系统，其中所述特征编码器还包括：

字词编码器，所述字词编码器被配置为计算基于字词的特征向量；以及

结构编码器，所述结构编码器被配置为计算基于结构的特征向量，其中所述组合特征向量包括所述基于字词的特征向量和所述基于结构的特征向量。

4.根据权利要求3所述的系统，其中：

所述字词编码器包括2层双向长短期存储器(LSTM)。

5.根据权利要求3所述的系统，其中：

所述结构编码器包括图卷积网络(GCN)。

6.根据权利要求1所述的系统，其中所述评分层还包括：

前馈评分层，所述前馈评分层被配置为基于所述组合特征向量来计算类别分数；以及

条件随机场(CRF)评分层，所述条件随机场评分层被配置为基于所述类别分数来计算所述标签分数。

7.一种用于训练神经网络的方法，包括：

接收训练集合，所述训练集合包括多个文本输入和针对所述多个文本输入中的每个文本输入的目标标签集合；

针对所述多个文本输入中的每个文本输入生成组合特征向量；

针对所述组合特征向量中的每个组合特征向量生成输出标签集合；

通过将所述输出标签集合与所述目标标签集合进行比较来计算第一损失值；

基于上下文信息来计算至少一个附加损失值；以及

基于计算得出的第一损失值和所述至少一个附加损失值来更新所述神经网络。

8.根据权利要求7所述的方法，还包括：

将所述多个文本输入中的每个字词嵌入到字词嵌入空间中；

针对所述字词中的每个字词标识词性(POS)标记；

基于所嵌入的字词和所标识的POS标记，使用字词编码器来计算基于字词的特征向量；

使用结构编码器来计算基于结构的特征向量；以及

组合所述基于字词的特征向量和基于上下文的特征向量，以产生所述组合特征向量。

9.根据权利要求7所述的方法，还包括：

使用前馈层针对每个组合特征向量计算类别分数；以及

将条件随机场(CRF)应用于所述类别分数，以计算所述输出标签集合。

10.根据权利要求9所述的方法，其中：

所述前馈神经网络包括2层前馈神经网络和逻辑回归模型。

11.根据权利要求10所述的方法，其中：

所述第一损失值是使用维特比损失算法而被计算的。