数据估读与修约规则总结

《数据估读与修约规则总结》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、数值估读与修约规则2013年8月测量结果的数据处理是测量过程的最后环节，而测量结果含有测量误差。因此，测量结果的有效位数应保留适宜，太多会使人误认为测量精度很高，同时也会带来计算上的繁琐；太少则会损失测量准确度。有效数字的位数反映了测量结果的精确度，它直接与测量的精密度有关。因此，在科学实验和生产活动中正确记录有效数字，往往成为计量认证考核的重要内容。有效数字的重要性以某科研项目年初采购的传感器为例，倾角传感器在±5°，可保证精度0.005°，厂家为了体现其高分别率，输出的数据全部取位到0.0001°举例存在两个问题一、精度为0.005°，是否应该要像常规的读数一样估读到精度位数的下一位？二、

2、不需要的位数应该如何舍入？解决办法精度为0.005°的仪器读数有效位数跟精度位数相同，不再显示下一位，多余位数将其按一定原则舍入，以下将做详细介绍。可知仪器的取位问题不是越多越好，更不是无章可循，作为计量认证工作的重点考察项目，其具有系统和规范的要求。拟从以下两个方面叙述：一、量测结果有效位数的规定二、多余位数如何修约一、量测结果有效位数的确定1.测量、测量结果测量是以确定量值为目的的一组操作。量值是由一个数（值）乘以测量单位所表示的特定量的大小。测量不可避免的存在误差，测量读数由准确数字和可疑数字组成，仪器的精度和最小刻画所标识的数字均为可准确测度数据的最小数字，比此数字小的均为可疑数字。2

3、.有效数字有效数字指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的（前后定位用的“0”除外）。有效数字的前几位都是准确数字，只有最后一位是可疑数字。其由准确数字和可疑数字组成。如1.1080，前几位数字1、1、0、8都是称量读到的准确数字，而最后一位数字0则是在没有刻度的情况下估读出来的，是不准确的或者说可疑的。有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。例如数值3.5，有两个有效数字，占有个位、十分位两个数位，因而有效数字位数为两位；而3.501有四个有效数字，占有个位、十分位、百分位等四个数位，因而是四位有效数字。测量结

4、果的数字，其有效位数反映了测量结果的精确度，它直接与测量的精密度有关。这也是有效数字实际意义的体现，是非常重要的体现。例如前述例子中，若测量结果为1.1080g，则表示测量值的误差在10-4量级上，天平的精度为万分之一；若测量结果为1.108g，则表示测量值的误差在10-3量级上，天平的精度为千分之一。在确定有效数字位数时应遵循下列原则：（1）数值中数字1～9都是有效数字。（2）数字“0”在数值中所处的位置不同，起的作用也不同，可能是有效数字，也可能不是有效数字。判定如下1）“0”在数字前，仅起定位作用，不是有效数字。如，0.0257中，“2”前面的两个“0”均非有效数字。0.123、0.01

5、23、0.00123中“1”前面的“0”也均非有效数字。2）数值末尾的“0”属于有效数字。如0.5000中，“5”后面的三个“0”均为有效数字；0.5000中，“5”后面的一个“0”也是有效数字。3）数值中夹在数字中间的“0”是有效数字。如数值1.008中的两个“0”是均是有效数字；数值8.01中间的“0”也是有效数字。4）以“0”结尾的正整数，“0”是不是有效数字不确定，应根据测试结果的准确度确定。如3600，后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。测量中遇到这种情况，最好根据实际测试结果的精确度确定有效数字的位数，有效数字用小数表示，把“0”用10的乘方表示。如将36

6、00写成3.6×103表示此数有两位有效数字；写成3.60×103表示此数有三位有效数字；写成3.600×103表示此数有四位有效数字。试看下面各数据的有效数字位数：1.000843383五位有效数字0.500020.76%四位有效数字0.0257154×10-10三位有效数字530.0070二位有效数字0.022×10-10一位有效数字3600100有效数字位数不定3、直接量测结果位数规定凡是用测量仪器直接测量的结果，读数一般要求在读出仪器最小刻度所在位的数值（可靠数字）后，再向下估读一位（不可靠数字），这里不受有效数字位数的限制。总则细则（1）最小刻度值（精度）是1、0.1、0.01……的

7、应读到最小刻度值（精度）的下一位；（2）最小刻度值（精度）是2、0.2、0.02…、5、0.5、0.05……的应读到最小刻度值（精度）的同一位；同一位分别按二分之一或五分之一估读，不足半小格的舍去，超过半小格的按一个格估读。（3）游标卡尺不需估读，小数点位与其精度小数点位数相当，（4）秒表读数时不需估读，单位：秒，一位小数；例1：刻度尺的读数读数:1.62cm=16.2mm读数:2.00cm=20