数值修约及运算规则.ppt

《数值修约及运算规则.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、《数值修约及运算规则》主要内容一、数值修约概念（1）概念；（2）修约规则；（3）其他规定；（4）其他修约的间隔；（5）有效数字概念二、极限数值的表示和判定（一）概念1.数值修约：通过省略原数值的最后若干位数字，调整所保留的末位数字，最后所得到的值最接近原数值的过程。注：经数值修约后的数值称为（原数值的）修约值。2.有效数值：一个数从左边第一个不是零的数字数起一直到最后一位数字（包括零、科学计数法不计10的N次方）称为有效数字。0.01093.109×1050.0230是三位是三位是四位（一）概念3.修约间隔

2、：修约的最小数值单位。注：修约间隔的数值一经确定，修约值即为该数值的整数倍。如：指定的修约间隔为0.1。修约值应在0.1的整数倍中选取，相当于将数值修约到一位小数。（一）概念（二）修约规则1、确定修约间隔（确定有效位数），0.0356修约到0.01得保留一位有效数字，2、进舍规则：1）拟舍弃数字的最后一位数字小于5，则舍去。保留其余各位数字不变。12.1498修约到“1”，；修约到0.1，得0.040.041212.12）拟舍弃数字的最后一位数字大于5.则进一，保留数字的末位数加1。1268修约到“100”

3、位.13×102也意味着有效数字为位。1300意味着有效数字为位。24（二）修约规则3）拟舍弃数字的最左一位数字是5，且其后有非零数字也进一，保留数字的末位数字加1.10.5002.修约到“1”.得11（二）修约规则4）拟舍弃数字的最后一位数字是5，且其后无数字或为0时，若所保留的数字为奇数（1、3、5、7、9），则进一。即保留数字的末位数字加1.若保留的末位数字为偶数（0、2、4、6、8）则舍去。1.050修约间隔为“0.1”。10×10-1（或1.0）有效数字为2位。0.35修约间隔为“0.1”。4×1

4、0-1（或0.4）有效数字为1位。2500修约间隔“1000”。2×103（2000）有效数字1、4位。3500修约间隔“1000”。4×103（4000）有效数字1、4位。（二）修约规则5）口诀四舍五入，逢五看前数，奇入偶不入。6）负数修约，先以负值绝对值按上述修约后，加上负号。-15.456绝对值15.456.修约间隔“0.1”、15.5.加上负号；-15.5。（二）修约规则（三）其他规定1.不允许连续修约：拟修的数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得连续按上述要求修约。正确：97.

5、46修约间隔“1”不允许：97.46→97.5→9897（三）其他规定2.特殊情况：具体实施中，有时测试与计算部先将获得数值按指定的修约数位多一位或几位报出，而后由其他部门判定。为免产生修约的错误，应按下述步骤进行：1）报出数值最右的非零数字为5时，应在数值右上角“+”或“-”，或不加符号，分别表明已进行过舍，进或未进。16.50+表示实际值在修约前大于16.50，经修约舍弃后为16.50；原数值可为：16.501“-”则是小于16.50比如16.499。（三）其他规定2）如果修约后的数字为5“+”者进一“

6、-”者舍去原数值修约再修15.454615.5-15-15.4546-15.5--1516.520316.5+1717.500017.518（四）其他修约间隔还有以0.5和0.2单位修约的，方法如下：0.5单位修约：被修约的数乘以2，进行间隔修约后再除以2，得到修约值。0.2单位修约：被修约的数乘以5，进行间隔修约后再除以5，得到修约值。（四）其他修约间隔下列数值修约得到“个位”的0.5单位修约被修约数值X2X2X修约X修约值60.25120.512060.060.38120.7612160.5（四）其他修

7、约间隔下列数值修约得到“百位”的0.2单位修约被修约数值X5X5X修约X修约值83041504200840842421042008408324160420084093046504600920（五）有效数字的运算1.加减法运算以参与运算的各数中末位的修约间隔最大的数为准。其余的数均比它保留多一位，多余的应按规定修约。计算结果的末位的修约间隔，应与参与运算的数中末位的修约间隔最大的那个数相同。如果是过程计算，则可多保留一位：（五）有效数字的运算18.3+1.4546+0.87618.3为末位最大数量级的数，为“

8、0.1”。则以“0.1”增加一位进行修约。18.3+1.45+0.88=20.63修约：如果还要参加下一步运算则取20.620.63（五）有效数字的运算2.乘、除（或乘方、开方）运算：以参与运算的各数中有效数字位数最少的那个数为准。其余多保留一位。运算结果的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若是过程计算，则可多保留一位。（五）有效数字的运算1.1x0.3268x0.103001.1有效位