有效数字及运算法则

有效数字及运算法则

ID:21742704

大小:573.00 KB

页数:32页

时间:2018-10-20

有效数字及运算法则_第1页
有效数字及运算法则_第2页
有效数字及运算法则_第3页
有效数字及运算法则_第4页
有效数字及运算法则_第5页
资源描述:

《有效数字及运算法则》由会员上传分享,免费在线阅读,更多相关内容在教育资源-天天文库

1、第四节有效数字及运算法则一、有效数字的一般概念例:用米尺测量物体的长度L1=L2=3.43.456563.43.4定义:在测量结果的数字表示中,由若干位可靠数字加一位可疑数字,便组成了有效数字。上述例子中的测量结果均为三位有效数字一、有效数字的一般概念二、有效数字位数的确定1.关于“0”的有效问题①.当“0”在数字中间或末尾时有效如:、、等中的0均有效。注意:不能在数字的末尾随便加“0”或减“0”数学上:物理上:1.关于“0”的有效问题②.小数点前面的“0”和紧接小数点后面的“0”不算作有效数字如:0.0123dm、0.123cm、0.0012

2、3m均是3位有效数字。注意:进行单位换算时,有效数字的位数不变。2.数值的科学记数法数据过大或过小时,可以用科学表达式。某电阻值为20000(欧姆),保留三位有效数字时写成2.00104又如数据为0.0000325m,使用科学记数法写成3.2510-5m3.有效数字与仪器的关系有效数字的位数测量值本身的大小、仪器的准确度20分度游标卡尺L=2.525cm(四位有效数字)螺旋测微计L=2.5153cm(五位有效数字)米尺L=2.52cm(三位有效数字)三、直接测量有效数字的确定——如何读数(1)用米尺测长度例:读数的一般规则:读至仪器误差所

3、在的位置当物体长度在24㎜与25㎜之间时,读数为24.*㎜当读数正好为24㎜时读数为24.0㎜被测物体三、直接测量有效数字的确定——如何读数(1)用米尺测长度例:(2)用0.1级量程为100mA电流表测电流读数的一般规则:读至仪器误差所在的位置△仪=100mA×0.1%=0.1mA指针在82mA与83mA之间:读为82.*mA指针正好在82mA上:读为82.0mA对于0.1级表:△仪=100mA×1.0%=1mA对于1.0级表指针在82mA与84mA之间:可读为82mA、83mA或84mA指针正好在82mA上:读为82mA四、间接测量量有效数字

4、的确定——有效数字的运算法则1.加减法62.5+1.234=63.762.5+1.234—————63.734–––––––结果为63.7–例1:其中:试确定N的有效数字。解:(1)求出N的不确定度(2)(3)用误差(估计误差范围的不确定度)决定 结果的有效数字例2四、间接测量量有效数字的确定——有效数字的运算法则1.加减法加减法运算后的有效数字,取到参与运算各数中最靠前出现可疑数的那一位。运算规则:例19.68-5.848=13.8319.68-5.848—————13.832––––––结果为13.83––四、间接测量量有效数字的确定——有

5、效数字的运算法则1.加减法2.乘除法3.216.5=213.216.5—————1605––––––结果为21––1926—————20.865–––––––例4:其中:试确定N的有效数字。解:(2)计算不确定度(1)先计算N(3)根据误差(不确定度)决定有效数字,有:例5四、间接测量量有效数字的确定——有效数字的运算法则1.加减法2.乘除法乘除运算后结果的有效数字一般以参与运算各数中有效数字位数最少的为准。运算规则:例62121.843=0.96____结果为0.96_四、间接测量量有效数字的确定——有效数字的运算法则1.加减法2.乘除

6、法3.乘方与开方结果的有效数字与其底或被开方数的有效数字位数相同。如:错误正确运算规则:1002=100102100=10.049=7.049=74.02=164.02=16.0四、间接测量量有效数字的确定——有效数字的运算法则1.加减法2.乘除法3.乘方与开方4.函数运算(1)对数函数lgx的尾数与x的位数相同例7lg100=2.000lg1.983=0.2973227140.2973lg1983=3.297227143.2973(2)指数函数10x或ex的位数和x小数点后的位数相同(包括紧接小数点后面的0)例8106.25

7、=1778279.411.8106100.0035=1.00809611.008四、间接测量量有效数字的确定——有效数字的运算法则1.加减法2.乘除法3.乘方与开方4.函数运算5.自然数与常量①自然数不是测量值,不存在误差,故有效数字是无穷位。②常数、e等的位数可与参加运算的量中有效数字位数最少的位数相同或多取一位。如在D=2R中,2不是一位有效数字,而是无穷位例10L=2R其中R=2.3510-2m就应取3.14(或3.142)即L=23.1422.3510-2=0.148(m)综合运算举例50.00(18.3016.

8、3)(1033.0)(1.00+0.001)=50.002.01001.00=1.0102100=1.010.02lg100.027.3

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。