有效数字修约.ppt

《有效数字修约.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、有效数字修约规则术语修约间隔：修约值的最小数值单位，系确定修约保留位数的一种方式。修约间隔的数值一经确定，修约值即应为该数值的整数倍。例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当于将数值修约到一位小数。例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相当于将数值修约到“百”数位。有效位数：对没有小数位且以若干个零结尾的数值，从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数；对其他十进位数，从非零数字最左一位向右数而得到的位数，就是有效位数。例1：35000，若有两个无效零，则为三位有效位数，应写为350×10

2、2；若有三个无效零，则为两位有效位数，应写为35×103。　　例2：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有效位数。　　例3：12.490为五位有效位数；10.00为四位有效位数。0.5单位修约（半个单位修约）：指修约间隔为指定数位的0.5单位，即修约到指定数位的0.5单位。修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所得数值再除以2。例1：将60.28修约到个数位的0.5单位（或修约间隔为0.5），得60.5。例2：将60.25修约到个数位的0.5单位（或修约间隔为0.5），得60.0。拟修约数值乘22A

3、修约值（修约间隔为1）A修约值（修约间隔为0.5）60.25120.5012060.060.38120.7612160.5将下列数字修约到个数位的0.5单位（或修约间隔为0.5）0.2单位修约：指修约间隔为指定数位的0.2单位，即修约到指定数位的0.2单位。将拟修约数值乘以5，按指定数位依数字修约规则修约，所得数值再除以5。例1：将830修约到“百”数位的0.2单位（或修约间隔为20），得840。例:2：将842修约到“百”数位的0.2单位（或修约间隔为20），得840。拟修约数值乘55A修约值（修约间隔为100）A修约值（修约间隔为20）8304150420084

4、084242104200840将下列数字修约到“百”数位的0.2单位（或修约间隔为20）确定修约位数的表达方式指定数位(指定修约间隔)；指定将数值修约成n位有效位数。四舍六入五考虑，五后非零则进一，五后皆零视奇偶，五前为偶应舍去，五前为奇则进一，不论数字多少位，都要一次修约成。进舍规则拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。例1：将12.1498修约到一位小数，得12.1。例2：将12.1498修约成两位有效位数，得12。拟舍弃数字的最左一位数字大于5；或者是5，而其后跟有并非全部为0的数字时，则进一，即保留的末位数字加1。例1：将1268修约到“

5、百”数位，得13×102（特定时可写为1300）。例2：将1268修约成三位有效位数，得127×10（特定时可写为1270）。例3：将10.502修约到个数位，得11。拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数字为奇数（1，3，5，7，9）则进一，若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。例1：修约间隔为0.1拟修约数值1.050　　修约值结果1.0负数修约时，先将它的绝对值按数字修约规定进行修约，然后在修约值前面加上负号。例1：将下列数字修约到“十”数位拟修约数值修约值-355　　　　　-36×10不许连续修约拟修约数字

6、应在确定修约位数后一次修约获得结果，而不得多次按进舍规则连续修约。例如：修约15.4546，修约间隔为1正确的做法：15.4546→15不正确的做法：15.4546→15.455→15.46→15.5→16在具体实施中，有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。1.报出数值最右的非零数字为5时，应在数值后面加“（＋）”或“（－）”或不加符号，以分别表明已进行过舍、进或未舍未进。例：16.50（＋）表示实际值大于16.50，经修约舍弃成为16.50；16.50（－）表示实际值小于16.50

7、，经修约进一成为16.50。2.如果判定报出值需要进行修约，当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时，数值后面有(+)号者进一，数值后面有(-)号者舍去，其他仍按数字修约规则进行。例：将下列数字修约到个数位后进行判定（报出值多留一位到一位小数）。实测值报出值　　　　　修约值15.454615.5（一）1516.520316.5（＋）17-17.5000-17.5-18-15.4546-(15.5(一))-15计算法则加减运算应以各数中有效数字末位数的数位最高者为准（小数即以小数部分位数最少者为准），其余数均比该