物理实验绪论-有效数字运算

物理实验绪论-有效数字运算

ID:37526678

大小:486.31 KB

页数:11页

时间:2019-05-12

物理实验绪论-有效数字运算_第1页
物理实验绪论-有效数字运算_第2页
物理实验绪论-有效数字运算_第3页
物理实验绪论-有效数字运算_第4页
物理实验绪论-有效数字运算_第5页
资源描述:

《物理实验绪论-有效数字运算》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、有效数字运算有效数字的定义说明有效数字的运算规则加减运算规则乘除、乘方、开方规则函数运算规则常数运算规则舍入规则有效数字的定义可靠数字存疑数字测量中得到的全部可靠数字和欠准数字可疑数字欠准数字例:7.98mm和0.00798m都是三位有效数字例:0.0079800m是多少位?有效数字的说明有效位的多少,是测量实际的客观反映,不能随意增减测得值的有效位有效数字只有最后一位是欠准的有效数字的位数与小数点位置无关从第一位不为0的数字数至最后一位包括后面的0在单位换算时,有效数字的位数不变例:7.98mm=0.00798m表达测量结果

2、的有效数字,其尾数应与不确定度值尾数对齐例:L=(98.600.06)cm对较大或较小的数,尽量采用科学记数法例:0.00798m记为7.98×10-3mm对齐草稿纸有效数字运算规则加减运算规则运算结果末位数字所在位置,与参与加减运算的各数中末位数字位置最高的一个相同例:10.1-4.179=?10.1-4.1795.9215.9乘除、乘方、开方运算规则运算结果的有效数字的位数,与参与运算各数中有效数字位数最少的那个数相同例:10.1×4.179=?10.1三位4.179四位结果三位42.2(4.179)2=?17.464

3、.1810.14.179=?2.42三角函数运算规则将自变量欠准位变化1,运算结果产生差异的最高位就是应保留的有效数字的最后一位大学物理实验中,角度一般读到秒三角函数运算保留4位有效数字例:对数函数运算规则对数函数运算结果的有效数字中,小数点后面的位数取成与真数的位数相同例:lg1.983=0.2973lg19.83=1.2973lg198.3=2.2973ln19.83=2.9872指数函数运算规则指数函数运算结果的有效数字,按科学记数法,小数点后的位数取成与指数中小数点后的位数相同例:e9.14=9.32×103常数运算

4、规则常数不影响最后的计算结果有效位数。运算中其位数比计算式中其它测量值中有效位最少的多取一位例:D=2RS=R2设R=4.000mmD=8.000mm=3.1416舍入规则小于5时,舍去;大于5时,进1等于5时,按欲保留的末位为奇数时则进1,为偶数时舍弃例:保留4位有效数字4.327494.3275144.325004.327504.328504.3274.32844.324.3284.328

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。