检测数据修约处理.ppt

《检测数据修约处理.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、检测数据修约处理GB/T8170-20082015.04.14目录术语确定修约位数的表达方式进舍规则不连续修约0.5单位修约及0.2单位修约计算法则(参考上海市计量检定人员计量基础知识培训教材)术语数值修约通过省略原数值的最后若干位数字，调整所保留的末位数字，使最后所得到的值最接近原数值的过程。注：经数值修约后的数值称为修约值。10.4110.4数值修约原始数值修约值10.5×有效数字该数值从其第一个不是零的数字起到最末一位数的全部数字即为有效数字。例1：3.2，0.32，0.032，0.0032均为两

2、位有效位数；0.0320为三位有效位数。　　例2：12.490为五位有效位数；10.00为四位有效位数。例3：1.35cm=13.5mm=0.0135m，这三种表示法完全等效，均为三位有效数字。2200√2203×2210×58600√58611×58670×确定修约位数的表达方式确定修约位数的表达方式指定数位(指定修约间隔)；指定将数值修约成n位有效位数。进舍规则四舍六入逢五取偶拟舍弃数字最左一位数字小于5，则舍去，保留其余各位数字不变例1：将12.1498修约到个位数（即修约间隔为1），得12；

3、将12.1498修约到1位小数（即修约间隔为0.1），得12.1。拟舍弃数字最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，则进一，即保留的末位数字加1。例2：将1268修约到“百”数位，得1300。例3：将10.502修约到个数位，得11。拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。（逢五取偶）例1：1.050修约到1位小数，得1.0。例2：0.35修约到1为小数，得0

4、.4。负数修约时，先将它的绝对值按数字进舍规则（四舍六入逢五取偶）进行修约，然后在修约值前面加上负号。例：将下列数字修约到三位小数拟修约数值　　修约值-0.0365-0.0360.0365绝对值不连续修约1、拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按进舍规则连续修约。例如：修约15.4546，修约间隔为1正确的做法：15.4546→15不正确的做法：15.4546→15.455→15.46→15.5→162、在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出

5、，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。报出数值最右的非零数字为5时，应在数值后面加“（＋）”或“（－）”或不加符号，以分别表明已进行过舍、进或未舍未进。例：16.50（＋）表示实际值大于16.50，经修约舍弃成为16.50；16.50（－）表示实际值小于16.50，经修约进一成为16.50。如果报出值需要进行修约，当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时，数值后面有(+)号者进一，数值后面有(-)号者舍去，其他仍按数字修约规则进行。例：将下列数字修约到个数位（报出

6、值多留一位到一位小数）。实测值　　报出值　　　　　修约值15.4546　　15.5（一）　　　15-15.4546　　-15.5(一)-1516.5203　　16.5（＋）　　　17-17.5000　　-17.5　　　　　-180.5单位修约及0.2单位修约0.5单位修约（半个单位修约）指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所得数值再除以2。例：将下列数字修约到个数位的0.5单位拟修约数值X2X2X修约值X修约值

7、60.25120.5012060.060.38120.7612160.560.28120.5612160.5-60.75-121.50-122-61.00.2单位修约指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2单位。修约方法：将拟修约数值乘以5，按指定数位依数字修约规则修约，所得数值再除以5。例：将下列数字修约到“百”数位的0.2单位（或修约间隔为20）拟修约数值X5X5X修约值（修约间隔为100）X修约值（修约间隔为20）830415042008408424210420084083241

8、604200840-930-4650-4600-920计算法则——参考上海市计量检定人员计量基础知识培训教材加减运算计算结果的末位数位，应与参加运算数据中的末位数位最大的位数相同。对带小数点的运算，计算结果小数点后保留的位数应与参加运算数据里小数点后末位最左的位数相同。例：1.5+0.42=1.92=1.9乘除运算计算结果的位数，应与参加运算数据里有效数字最小的位数相同。例：0.160*2.6=0.4160=0.42平方或开方运算运算结果与