极限数值表示与数值修约规则.ppt

极限数值表示与数值修约规则.ppt

ID:50299162

大小:914.50 KB

页数:43页

时间:2020-03-12

极限数值表示与数值修约规则.ppt_第1页
极限数值表示与数值修约规则.ppt_第2页
极限数值表示与数值修约规则.ppt_第3页
极限数值表示与数值修约规则.ppt_第4页
极限数值表示与数值修约规则.ppt_第5页
资源描述:

《极限数值表示与数值修约规则.ppt》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库

1、数值修约规则与极限数值的表示和判定GB/T8170—20087/22/202111范围适用于科学技术与生产活动中试验测定和计算得出的各种数值。当所得数值需要修约时,应按本标准给出的规则进行。适用于各种标准或其他技术规范的编写和对测试结果的判定。7/22/202122术语和定义2.1数值修约roundingofffornumericalvalues通过省略原数值的最后若干数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。注:经数值修约后的数值称为(原数值的)修约值。7/22/202132.2修约间隔roundinginte

2、rval修约值的最小数值单位。注:修约间隔的数值一经确定,修约值即应为该数值的整数倍。例l:如指定修约间隔为0.l,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。7/22/202143数值修约规则3.1确定修约间隔指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;指定修约间隔为1,或指明将数值修约到“1”数位;指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”

3、……数位。7/22/202153.2进舍规则四舍六入五考虑五后非零则进一五后皆零视奇偶五前为偶应舍去五前为奇则进一不论数字多少位都要一次修约成7/22/20216进舍规则3.2.1拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。例:将12.1498修约到个数位,得12;将12.1498修约到一位小数,得12.1。7/22/202173.2.2拟舍弃数字的最左一位数字大于5;则进一,即保留数字的末位数字加1。例:将1268修约到“百”数位,得13×102(特定时可写为1300)。注:本标准示例中,“特定场合”系指修约间隔明

4、确时。7/22/202183.2.3拟舍弃数字的最后一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1.例:将10.5002修约到个数位,得11。7/22/202193.2.4拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数(2,4,6,8,0)则舍去。例l:修约间隔为0.1(或10-1)拟修约数值修约值1.05010×10-1(特定场合可写成为1.0)0.3504×10-1(特定场合可写成为0.4)例2:修约间隔

5、为1000(或103)拟修约数值修约值25002×103(特定场合可写为2000)35004×103(特定场合可写为4000)7/22/2021103.2.5负数修约时,先将它的绝对值按3.2.1-3.2.4规定进行修约,然后在修约值前面加上负号。例l:将下列数字修约到“十”数位:拟修约数值修约值-355-36×10(特定时可写为-360)-325-32×10(特定时可写为-320)例2:将下列数字修约到三位小数,即修约间隔为10-3拟修约数值修约值-0.0365-36×10-3(特定时可写为-0.036)7/22/2021113.3

6、不允许连续修约3.3.1拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按3.2规则连续修约。例1:修约97.46,修约间隔为1。正确的做法:97.46→97;不正确的做法:97.46→97.5→98。例2:修约15.4546,修约间隔为1。正确的做法:15.4546→15;不正确的做法:15.4546→15.455→15.46→15.5→16。7/22/2021123.3.2在具体实施中,有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行

7、。7/22/2021133.3.2.1报出数值最右的非零数字为5时,应在数值右上角加“+”或“-”或不加符号,分别表明已进行过舍,进或未舍未进。例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。7/22/2021143.3.2.2如对报出值需要进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有“-”者舍去,其他仍按第3.2的规则进行。7/22/202115例:将下列数字修约到个数位(报出值多留一位至一位

8、小数)。实测值报出值修约值15.454615.5-1516.520316.5+1717.500017.518-15.4546-15.5--15-16.5203-16.5+-177/22/2021163.40.5单位修约与

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。