[发明专利]一种用于高精度源表一体化测量设备的新型校准方法有效
| 申请号： | 201910966129.0 | 申请日： | 2019-10-12 |
| 公开（公告）号： | CN110657833B | 公开（公告）日： | 2023-02-10 |
| 发明（设计）人： | 刘国福;徐伟专;甘伟;尚帅;文诚;胡能钢;熊艳 | 申请（专利权）人： | 湖南银河电气有限公司 |
| 主分类号： | G01D18/00 | 分类号： | G01D18/00;G01R35/00;G06F17/10 |
| 代理公司： | 广州凯东知识产权代理有限公司 44259 | 代理人： | 梁灵周 |
| 地址： | 410100 湖南省长*** | 国省代码： | 湖南;43 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及本发明涉及测量设备的校准方法，特别涉及一种用于高精度源表一体化测量设备的新型校准方法，其包括获取原始数据；分析获取的原始数据；将输出真值作为拟合对象，对实测值进行拟合，得到校准系数；将设置值Z作为拟合对象，对输出真值Y进行拟合，得到另一组校准系数，微处理器根据上述两组校准系数和原始数据校正得到校准后的实测值和设置值。本发明是基于非线性最小二乘法的高效拟合方法，其选取三次样条函数作为拟合函数。该方法无需求取反函数，也就避免了牛顿迭代法的求导和除法，而且只需要六次乘法和三次加法即可求取一组校准系数，无需先进算法复杂的计算过程和庞大的计算量。 | ||
| 搜索关键词： | 一种 用于 高精度 一体化 测量 设备 新型 校准 方法 | ||
【主权项】：
1.一种用于高精度源表一体化测量设备的新型校准方法，其特征包括以下步骤：/n(1)获取原始数据，包括SMU的输出真值Y、实测值X和设置值Z；/n(2)计算原始数据相对设置值的相对误差，将相对误差接近的采样点划分至同一个区间，对每个区间进行拟合；/n(3)将输出真值Y作为拟合对象，对实测值X进行拟合，得到一组校准系数，拟合表达式如下：/nY＝a[0]X
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于湖南银河电气有限公司，未经湖南银河电气有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910966129.0/，转载请声明来源钻瓜专利网。
