APP下载

分析实验中的有效数字和数值修约

2021-04-17赵新颖曹奇光

分析仪器 2021年2期
关键词:末位数位位数

赵新颖 危 晴 曹奇光 袁 騉

(北京电子科技职业学院,北京 100176)

规范测量和正确记录是确保分析实验结果准确性的重要前提。其中,有效数字是指在实验过程中,能够测量到的数值,由几位准确数字和最后一位可疑数字组成。例如,用万分之一分析天平称量时,可以精确到小数点后第四位,则有效数字位数不会少于4位;用常量滴定管滴定时,可以精确到小数点后第二位,则有效数字最多为4位。数值修约则指进行运算前,通过调整保留末位数字,使最后所得到数值最接近原数值的过程。总体来说,有效数字和数值修约都必须以实验为基础,是表明该实验测量精度的重要参数。

1 有效数字位数

一般情况下,称量或者移取操作后,直接读取的数值即为有效数字。但是“0”在数值中的位置与有效数字的位数有直接关系,主要有以下3种情况:

第一,“0”在数值中间。此时,读取的数值即为有效数字,其中每个阿拉伯数字都代表一位有效数字。如,某物称量结果显示为3.2011 g,则此次称量值的有效数字有5位,即“32011”。

第二,“0”在数值前面。数值前面的“0”只起定位作用。如,称量结果显示为3.2011 g,按照质量单位进行折算后,3.2011 g = 0.0032011 kg = 0.0000032011 t,其有效数字均为5位,即“32011”。 0.0032011 kg 中3前面的3个“0”和 0.0000032011 T 中3前面的6个“0”只起到定位作用,不影响有效数字的位数。

第三,“0”在数值后面。数值末位有“0”时,则要考虑两种情况。第一种情况为“0”在小数的末位,如1.000、2.00、5.0等,此时“0”代表1位有效数字,且“0”之前的所有数字都代表1位有效数字。1.000有效数字为4位、2.00有效数字为3位、5.0有效数字为2位。第二种情况为“0”在整数的末位,如1000、200、50等,这种情况统称为有效数字位数不明,需要使用“科学记数法”标明有效数字位数。以1000为例:1×103的有效数字为1位,1.0×103的有效数字为两位,1.00×103的有效数字为3位,1.000×103的有效数字为4位。

此外,pH、pK等对数值,有效数字的位数为小数点后数字的位数,如pH为1.30、pKa为11.85的有效数字位数均为两位。

2 数值修约原则

数值修约应首先确定"修约间隔"和"进舍规则",然后根据"修约间隔",通过"进舍规则"保留到指定位数。科技工作中测定和计算得到的各种数值,除另有规定外,修约时均应按照国家标准GB/T 8170-2008 《数值修约规则与极限数值的表示和判定》进行。

2.1 修约间隔

修约间隔是修约值的最小数值单位,数值一经确定,修约值即为该数值的整数倍。例如,指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到1位小数,例如:将60.28修约到个数位的0.1单位(即保留1位小数),其结果为60.3。在实际检测中,0.5单位修约(半个单位修约)和0.2单位修约也较为常用。例如,将60.28以0.5个单位进行修约,其结果为60.5。修约方法为60.28×2 = 120.56,修约间隔为1,修约后为121;除以2得到修约结果为60.5。将60.28以0.2单位进行修约,其结果为60.2。修约方法为60.28×5 = 301.4,修约间隔为1,修约后为301;除以5得到修约结果为60.2。由此可见,同一数值,修约间隔不同,所得修约结果也不相同。表1列举了实例,说明了修约间隔对修约结果的影响。

表1 0.5单位修约和0.2单位修约方法及实例

2.2 进舍规则

为避免“四舍五入”进舍规则造成误差偏大的现象,现行一般采用“四舍六入五留双”的进舍规则。该规则针对修约间隔值的十分之一所对应的数位上的数字:小于等于4,舍弃;大于等于6,修约间隔值对应数位的数字加1;5后有大于等于1的数字,修约间隔值对应数位的数字加1;5后没有大于等于1的数字,修约间隔值对应数位的数字保留偶数。例如,将15.4565按修约间隔为1修约,修约结果为15(小于等于4舍);修约间隔为0.1,修约结果为15.5(5后有数进);修约间隔为0.01,修约结果为15.46(大于等于6入);修约间隔为0.001,修约结果为15.456(5后无数留双)。

需要注意的是,进行数值修约时,应一次修约到指定的位数,不可以进行数次修约,否则将有可能得到错误结果。例如,将15.4565修约到个位时,一步到位正确的修约结果为15,而分步修约将得到错误的结果16(修约过程为15.4565→15.456→15.46→15.5→16)。

有效数字的运算将于下期讨论。

猜你喜欢

末位数位位数
数 值 进 舍 规 则
五次完全幂的少位数三进制展开
连续自然数及其乘积的位数分析
相同数位相加减
分清数位 照“位”读写
你了解“数位”吗
对齐数位 看前顾后
末位对齐与数位对齐
神秘的幂的逆运算
有趣的数89