数值分析在化工中有限量测量数据处理方面应用

《数值分析在化工中有限量测量数据处理方面应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、数值分析在化工中有限量测量数据处理方面的应用李刚辉（(陕西科技大学化学与化工学院，陕西咸阳，712081)摘要：介绍了插值法和最小二乘法两种数值分析方法在实验数据处理方面的具体应用；分析了数值分析方法在建立曲线拟合模型方面的应用。关键词：有限量测量数据；插值法；最小二乘法；曲线拟合定量分析的目的是通过实验测定试样中被测组分的准确含量。但由于受分析方法、测量仪器、试剂和分析人员主客观因素等方面的限制，使测量结果不可能与真实结果完全一致；同时，一个定量分析往往要经过一系列步骤，并不是一次简单的测量，每步测量的误差都会

2、影响分析结果的准确性。因此，即使是技术娴熟的技术人员，用各项技术指标均符合要求的测量仪器，用同一种可靠方法对同一试样进行多次测量，也不能得到完全一致的结果。这说明客观上存在着难以避免的误差，任何测量结果都不可能绝对准确。为了提高分析的准确性，有必要探讨产生误差的原因和减免误差的方法。由于误差的客观存在，人们在实际分析中不可能得到确切无误的真实值，而需对测量结果作出相对准确的估计。如何得到最佳的估计值并判断其可靠性，这是对测量数据进行数值分析的目的。另外，在分析测量中，由于各种误差的存在，两个变量间一般不存在确切的

3、函数关系，而仅是相关关系。在进行两变量间的相关分析时，最直观的方法是建立直角坐标系，两个变量各占一坐标轴，每个数据在坐标系中为一个点，并将数据连接成一条直线或曲线以显示变量间的相互关系。如各点的连接排列接近一条直线，则表明两变量的线性相关性较好；如各点排列杂乱无章，则表明两变量的线性相关性较差。但仅凭目测配线是不够准确的，不同的人对同一数据会给出不同的配线。较好的方法是对数据进行模拟，求出曲线模拟方程。本文介绍了插值法和最小二乘法两种数值分析方法在实验数据处理方面的具体应用，并分析了数值分析方法在建立曲线拟合模型

4、方面的应用。1数值分析法在实验数据处理方面的具体应用1.1作图法和最小二乘法在实验数据处理方面的具体应用以一化学实验为例子，其公式为Y=KX。测量数据见表1，其中“.”表示估读数字。下面分析其两种方法处理数据之后的有效数字情况。表1数据列表物理量12345678910XY1.1.1作图法用表1中数据组进行画图，结果如图1所示。在直线上取两点Ａ(,),Ｂ(,),用作图法进行数据处理,求得斜率对作图法所求得的Ｋ图值,应考虑两种误差,一种是由于任意性引起的误差,另一种是读数时产生的误差传递到Ｋ图值的误差.图1Y-X曲线

5、图先求任意性引起的标准偏差.由于Ｋ图=,所以作图法拟合直线为Y=0.371X.把测量值X代入(1)式,数据见表2.表2数据列表12345678910X（测量值）0.6220.7180.8230.9221.0211.1341.2351.3231.4121.526Y’=0.371X0.2300.2660.3050.3420.3790.4210.4580.4910.5240.566Y（测量值）0.2340.2640.3050.3310.3690.4210.4610.4790.5210.565△Y=Y-Y0.004–0.

6、0020.000-0.011–0.0100.0000.003-0.012–0.003–0.001Y的偏差Ｋ图的偏差由于误差估算考虑最坏的情况,因此结果取为0.116.下面再估算读取数据时产生的误差.由于坐标纸最小分格之间人眼无法辨别具体数据,因此存在视觉误差ΔY、ΔX.由推出=假设每次读取的读数误差相同，且为坐标纸最小分格的一半，则ΔX=0.005,ΔY=0.0025,那么，代入数据得可见作图法在图上读取数据时的误差是较大的。若坐标分度值取得不当，求斜率Ｋ图时，从直线上取的两点距离较近的话，产生的误差就更大。1.

7、1.2用最小二乘法求斜率Ｋ乘的标准偏差用最小二乘法进行数据处理,求斜率Ｋ乘值。由，，，，，，得由Ｋ乘=0.37,得到最小二乘法拟合直线为　　Y=0.37X.（2）把测量值X代入(2)式,数据见表3.表3数据列表12345678910X(测量值)0.6220.7180.8230.9221.0211.1341.2351.3231.4121.526Y′=0.37X0.2300.2660.3050.3410.3780.4200.4570.4890.5220.565Y(测量值)0.2340.2640.3050.3310.3

8、690.4210.4610.4790.5210.565ΔY=Y-Y′0.004-0.0020.000-0.010-0.0090.0010.004-0.0100.0010.000Y的偏差Ｋ乘的偏差由于误差估算考虑最坏的情况,因此结果取为0.007.综上所述，利用作图法和最小二乘法进行实验数据处理时，作图法的特点是直观、简便，在图上可直接发现测量错误，且可以把某些比较复杂的函