[发明专利]特征向量二值化或三值化算法、装置及计算机可读存储介质

说明书

本发明公开了一种特征向量二值化或三值化算法、装置及计算机可读存储介质，至少具有如下有益效果：1.提出利用余弦相似度和尺度修正因子结合，重新定义最优二值或三值化向量，提出一种新的量化结构，解决基于范数距离表达计算复杂的问题；2.提出一种新的二值或三值优化问题的求解方法，转变非线性整数问题为线性优化问题,并且缩减优化求解的计算量。

技术领域

本发明涉及计算机技术领域，具体而言涉及一种特征向量二值化或三值化算法、装置及计算机可读存储介质。

背景技术

随着AI技术的发展，各种各样的任务均可以通过深度学习模型实现，例如语音分类任务、图像识别任务。在深度学习模型中，通常都需要进行特征向量的提取，为了降低运算量，可对特征向量进行二值化或三值化处理。

特征向量二值化或三值化处理是将特征向量变成二值(+1，-1)或三值(+1，0，-1)来表示，即寻找一个二值(三值)向量B和尺度参数α，代替原先的特征向量W，并能够尽可能的与W相同。

一般方法采取如下从范数角度理解的形式：J(B,α)＝‖W-αB‖，求这样的二值(三值)化过程属于一个非线性整数规划问题，求解困难，同时很难保证找到最优解。在实际求解过程中，特征向量的维数n往往很大，量化向量的搜索空间为aⁿ，其中，二值化过程中，a＝2，三值化过程中，a＝3；这将影响到了量化方法的应用。

发明内容

本发明旨在至少解决现有技术中存在的技术问题之一。

为此，本发明提供一种有效缩减计算量的特征向量二值化或三值化算法、装置及计算机可读存储介质。

本发明的第一方面实施例的特征向量二值化或三值化算法，包括以下步骤：对特征向量W＝(w₁,w₂,…,w_n)单位化处理，并得到W⁰＝{a₁,a₂,…a_n}；设向量W⁰的量化向量T＝(t₁,t₂,…,t_i…t_n)，其中t_i∈{0,±1}或t_i∈{±1}，利用余弦相似度，建立特征向量W、所述W⁰、所述量化向量T之间的关系式：求得所述量化向量T＝(t₁,t₂,…,t_i…t_n)；对{|a₁|,|a₂|,…,|a_n|}降序排列并得到向量B＝{b₁,b₂,…,b_n}，向量B的量子化向量为T′＝(t′₁,t′₂,…t′_j,…t′_n)，其中t′_j表示原t_i的换序，T′中的非零个数为M(M＝1,…,N)，则j∈(M+1,…,N)时，t′_i都为零，对于最大化的M表示为：求得最大化M，并将修正系数λ表示为：求得修正系数λ。

在一些实施例的特征向量二值化或三值化算法，所述特征向量W为深度神经网络的权值向量。

本发明的第二方面实施例的特征向量二值化或三值化装置，所述装置包括：处理器和存储器；存储器上存储有可在所述处理器上运行的计算机程序；其中，所述计算机程序被所述处理器执行时实现如权利要求1至2任一项所述特征向量二值化或三值化算法的步骤。

本发明的第三方面实施例的计算机可读存储介质，所述计算机可读存储介质上存储有数据处理程序，所述数据处理程序被处理器执行时实现如第一方面实施例所述特征向量二值化或三值化算法的步骤。