[发明专利]利用KNN的自然语言处理

摘要

用于自然语言处理的系统包括存储器阵列和处理器。存储器阵列被划分为：存储多个特征向量的相似性区段，用于确定特征向量的出现概率的SoftMax区段，存储多个经修改的特征向量的值区段，以及标记区段。处理器激活阵列以在由标记区段指示的每个列中执行以下并行运算：在向量问题与存储在指示的列中的特征向量之间的相似性区段中的相似性运算；SoftMax区段中的SoftMax运算，其用于针对指示的特征向量确定相关联的SoftMax概率值；值区段中的乘法运算，其用于使相关联的SoftMax值乘以存储在指示的列中的经修改的特征向量；以及值区段中的向量和，其用于累加乘法运算的输出的关注向量。

主权项

1.一种用于自然语言处理的系统，所述系统包括：具有行和列的存储器阵列，所述存储器阵列被划分为：初始地存储多个特征向量或键向量的相似性区段，用于确定所述特征向量或所述键向量的出现概率的SoftMax区段，初始地存储多个经修改的特征向量的值区段以及标记区段，其中，所述存储器阵列的一个或多个列中的操作与要被处理的一个特征向量相关联；以及存储器内处理器，其用于激活所述存储器阵列，以在由所述标记区段指示的每个列中并行地执行以下运算：在向量问题与存储在每个所指示的列中的每个所述特征向量之间的所述相似性区段中的相似性运算；所述SoftMax区段中的SoftMax运算，其用于针对每个所指示的特征向量确定相关联的SoftMax概率值；所述值区段中的乘法运算，其用于使所述相关联的SoftMax值乘以存储在每个所指示的列中的每个所述经修改的特征向量；以及所述值区段中的向量和运算，其用于累加所述乘法运算的输出的关注向量和，所述向量和用于生成用于进一步迭代的新向量问题或者用于在最终迭代中生成输出值。