扫一扫
新闻中心
页面位置页面位置: 新闻中心  > 通知公告

测量数据的有效数字

作者:admin时间:2019-08-01浏览次数:1859次

测量数据的有效数字 测量数据的有效数字

1 有效数字用于表示测量数字的有效意义。指测量中实际能测得的数字,由有效数字构成的数值,其倒数di二位以上的数字应是可靠的(确定的),只有末位数是可疑的(不确定的)。对有效数字的位数不能任意增删。

2 由有效数字构成的测定值必然是近似值,因此,测定值的运算应按近似计算规则进行。

3 数字“0”,当它用于指小数点的位置,而与测量的准确度无关时,不是有效数字;当它用于表示与测量准确程度有关的数值大小时,即为有效数字。这与“0”在数值中的位置有关。

4 一个分析结果的有效数字的位数,主要取决于原始数据的正确记录和数值的正确计算。在记录测量值时,要同时考虑到计量器具的精密度和准确度,以及测量仪器本身的读数误差。对检定合格的计量器具,有效位数可以记录到zui小分度值,zui多保留一位不确定数字(估计值)。

以实验室常用的计量器具为例:

(1)用天平(zui小分度值为0.1mg)进行称量时,有效数字可以记录到小数点后面第四位,如1.2235g,此时有效数字为五位;称取0.9452g,则为四位。

(2)用玻璃量器量取体积的有效数字位数是根据量器的容量允许差和读数误差来确定的。如单标线A 级50mL 容量瓶,准确容积为50.00mL;单标线A 级10mL 移液管,准确容积为10.00mL,有效数字均为四位;用分度移液管或滴定管,其读数的有效数字可达到其zui小分度后一位,保留一位不确定数字。

(3)分光光度计zui小分度值为0.005,因此,吸光度一般可记到小数点后第三位,有效数字位数zui多只有三位。

(4)带有计算机处理系统的分析仪器,往往根据计算机自身的设定,打印或显示结果,可以有很多位数,但这并不增加仪器的精度和可读的有效位数。

(5)在一系列操作中,使用多种计量仪器时,有效数字以zui少的一种计量仪器的位数表示。

5 表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取1位~2位有效数字。

6 分析结果有效数字所能达到的位数不能超过方法zui低检出浓度的有效位数所能达到的位数。例如,一个方法的zui低检出浓度为0.02mg/L,则分析结果报0.088mg/L 就不合理,应报0.09mg/L。

7 以一元线性回归方程计算时,校准曲线斜率b 的有效位数,应与自变量xi 的有效数字位数相等,或zui多比xi 数值多保留一位。截距a 的zui后一位数,则和因变量yi 数值的zui后一位取齐,或zui
8 在数值计算中,当有效数字位数确定之后,其余数字应按修约规则一律舍去。

9 在数值计算中,某些倍数、分数、不连续物理量的数值,以及不经测量而完全根据理论计算或定义得到的数值,其有效数字的位数可视为无限。这类数值在计算中按需要几位就定几位。


手机二维码
手机二维码
微信二维码
微信二维码

Service Holine

客户服务0371-56737999
地址:郑州市二七新区紫玉路
联系人:中力建元
技术支持:无限动力
备案号:豫ICP备19039356号  
Copyright © 中力建元工程技术检测有限公司  版权所有
咨询热线
0371-56737999
在线咨询
二维码
扫一扫关注我们