APP下载

计量资料中有效数字的确定

2011-04-10本刊编辑部

河北医药 2011年18期
关键词:小数点位数天平

有效数字是在测量中所能得到的有实际意义的数字。一个由有效数字构成的数值,只有末位数字是估计数字,其余各位数字都是准确的。有效数字与测量仪器的灵敏度有关。以天平称重为例,如果天平的灵敏度为0. 1 mg,那么称重结果12. 34 mg 中,12. 3 mg为准确数字,0. 04 mg 为估计数字,2 项合在一起组成有效数字。均数± 标准差(± s ) 的位数,除了决定于测量仪器的精密度外,还决于样本内个体的变异,一般按标准差的三分之一来确定。例如: 3. 61 ± 0. 42,标准差的三分之一为0. 14,标准差波动在小数点后第1 位上,故应取到小数点后第1 位,即3. 6 ± 0. 4,过多的位数并无意义。但是在一系列数值并列时,小数点后的位数应一致。例如在3. 61 ± 0. 42、5. 86 ± 0. 73、2. 34 ± 0. 15 这样一组数据中,第3 组数据标准差0. 15 的三分之一为0. 05,在小数点后第2位,则这组数据的有效位数均取到第2 位。

猜你喜欢

小数点位数天平
说说天平的使用
五次完全幂的少位数三进制展开
天平使用前后的两次平衡
天平的平衡
小数点移到哪去了
遥感卫星CCD相机量化位数的选择
“判断整数的位数”的算法分析
基于分位数回归的剪切波速变化规律
简易天平
超级小数点