[发明专利]一种用于高精度源表一体化测量设备的新型校准方法

说明书

本发明涉及本发明涉及测量设备的校准方法，特别涉及一种用于高精度源表一体化测量设备的新型校准方法，其包括获取原始数据；分析获取的原始数据；将输出真值作为拟合对象，对实测值进行拟合，得到校准系数；将设置值Z作为拟合对象，对输出真值Y进行拟合，得到另一组校准系数，微处理器根据上述两组校准系数和原始数据校正得到校准后的实测值和设置值。本发明是基于非线性最小二乘法的高效拟合方法，其选取三次样条函数作为拟合函数。该方法无需求取反函数，也就避免了牛顿迭代法的求导和除法，而且只需要六次乘法和三次加法即可求取一组校准系数，无需先进算法复杂的计算过程和庞大的计算量。

技术领域

本发明涉及测量设备的校准方法，特别涉及一种用于高精度源表一体化测量设备的新型校准方法。

背景技术

随着科技的进步和社会的发展，各行业对设备的性能追求越来越高，高精密仪器仪表将获得更加广泛的应用空间。高精度源表一体化测量设备(Source Measure Unit，简称SMU)，作为高精密仪器仪表的一个重要分支，在投入使用前需要经过严格的校准，以确保真实输出值和实测值都与输出真值保持一致。现代化的SMU都具备宽量程和高分辨率的特点，有的甚至要求电压在0.1V分辨率和1～10000V的量程范围内的所有取值都能达到万分之一的精度，这对于校准工作提出了严峻的挑战。

在假设SMU的设置值和实测值相等的前提下，若对实测值校准采用多项式拟合的方法，那么对设置值校准则需要求取多项式的反函数，难免会引入求根运算和除法运算。目前广泛采用的求根方法包括牛顿迭代法和较为先进的蚁群算法、模拟退火算法和遗传算法等。牛顿迭代法对初值的要求较高，当初值选取较为精确时，收敛是很快的，但每步都要计算函数的导数，使得运算量很大，而且还引入了除法，易导致系统不稳定；而先进的智能算法则都需要复杂的计算过程和庞大的计算量，实用性较差。

发明内容

针对上述技术问题，本发明提供一种基于非线性最小二乘法的、高效的用于高精度源表一体化测量设备的新型校准方法。

本发明解决上述技术问题所采用的技术方案为：一种用于高精度源表一体化测量设备的新型校准方法，其包括以下步骤：

(1)获取原始数据，包括SMU的输出真值Y、实测值X和设置值Z；

(2)计算原始数据相对设置值的相对误差，将相对误差接近的采样点划分至同一个区间，对每个区间进行拟合；

(3)将输出真值Y作为拟合对象，对实测值X进行拟合，得到一组校准系数，拟合表达式如下：

Y＝a[0]X³+a[1]X²+a[2]X+a[3] (1)

(4)为避免求取反函数，将输出真值Y代替设置值Z作为拟合对象，对设置值Z进行拟合(本该对输出真值Y进行拟合)，得到另一组校准系数，拟合表达式如下：

Y＝b[0]Z³+b[1]Z²+b[2]Z+b[3] (2)

此时Z表示设置值，为避免求取反函数，实际计算参数时Z取的却是输出真值，而Y取的是设置值。

(5)微处理器根据上述两组校准系数和原始数据校正得到校准后的实测值和设置值。

从以上技术方案可知，本发明用于高精度源表一体化测量设备的新型校准方法是基于非线性最小二乘法的高效拟合方法，其选取三次样条函数作为拟合函数。该方法无需求取反函数，也就避免了牛顿迭代法的求导和除法，而且只需要六次乘法和三次加法即可求取一组校准系数，无需先进算法复杂的计算过程和庞大的计算量，运算量非常小而且确保系统稳定，且能够对宽量程范围和高分辨率的SMU进行校准，易于实现，适用性强。

附图说明

图1是本发明的流程示意图。

具体实施方式