[发明专利]一种校准多元回归网络构建方法

说明书

本发明公开了一种校准多元回归网络构建方法，属于计算机算法领域，一种校准多元回归网络构建方法，它通过在多元回归网络中增加W矩阵，以及对W矩阵进行非线性处理，增加了输入‑输出变量之间非线性关系的刻画，提升了多元回归网络的系统性能，同时将标准校准多元回归网络中B矩阵用两个矩阵U、V实现，在这种矩阵分解过程中，遵循低秩的原则，这种低秩性原则可以保证用最少的参数解决函数近似问题，提高多元回归网络的运算性能，增加其运算的准确率。

技术领域

本发明涉及计算机算法领域，更具体地说，涉及一种校准多元回归网络构建方法。

背景技术

多元回归是研究一个因变量、与两个或两个以上自变量的回归。亦称为多元线性回归，是反映一种现象或事物的数量依多种现象或事物的数量的变动而相应地变动的规律。建立多个变量之间线性或非线性数学模型数量关系式的统计方法。

使用计算机构建多元回归网络，是处理测量数据时，研究变量与变量之间的关系的重要手段。校准多元回归模型如公式(1)所示，其中Y为目标输出，X为输入，B为映射矩阵，即待优化的参数。

定义

A_*k＝(A_1k，...；A_dk)^T，A_j*＝(A_j1，...，Aj_m)

则||*||_2,1和||*||_1,p具体表示如下：

目前有不同的方法根据(1)求解映射矩阵B。

公知的，校准多元回归网络的目标是寻找映射B，使得Y-XB的误差最小，并且采用||*||_2,1计算误差。对矩阵B的约束上，公式(1)中只是利用||*||_1,p范数来约束，这种约束中p一般两种选择，即p＝∞和p＝2。这分别对应下面两种情况：

其中(2)是限制B矩阵每行的最大值，而(3)则是限制B矩阵每行的二范数，对B中的其他关系没有任何限制。

在Y和X之间关系刻画上，只是用B矩阵刻画这种线性关系。在很多应用中，输入和输出之间不再是简单的线性关系，这在具体应用中，如根据输入人脸图像，输出人脸关键点等应用中，输入和输出的非线性关系很明显。简单用这种校准多元回归网络，则不能得到很好的精度。

发明内容

1.要解决的技术问题

针对现有技术中存在的问题，本发明的目的在于提供一种校准多元回归网络构建方法，它通过在多元回归网络中增加W矩阵，以及对W矩阵进行非线性处理，增加了输入-输出变量之间非线性关系的刻画，提升了多元回归网络的系统性能，同时将标准校准多元回归网络中B矩阵用两个矩阵U、V实现，在这种矩阵分解过程中，遵循低秩的原则，这种低秩性原则可以保证用最少的参数解决函数近似问题，提高多元回归网络的运算性能，增加其运算的准确率。

2.技术方案

为解决上述问题，本发明采用如下的技术方案。

一种校准多元回归网络构建方法，以X为输入层参数，W为非线性网络层参数，z为该层输出，其神经元节点的激活函数采用余弦函数，输入X和该层输出z之间的关系如下公式所示：

对于线性层，将z作为输入，Y为输出，其关系如下：

Y＝f(M，z)＝Mz (4)