实验记录中有效数字问题探讨

北京中医药大学（100102）孙毅坤

北京市药品检验所（100035）方颖 付欣彤 杜小伟

实验原始记录是指在科学研究过程中，应用实验、观察、调查或资料分析等方法，根据实际情况直接记录或统计形成的各种资料、文字、图表、声像等原始资料。作为实验完成过程的具体记载，实验记录应真实地反映整个实验的历史过程。因此，实验记录应当真实、及时、准确、完整，每项实验结束应进行数据处理和分析，并有明确的文字小结。本文针对常规实验中有效数字的确定及数据处理问题进行分析探讨。

1 有效数字概念

有效数字是指在测量工作中能得到的有实际意义的数值，只允许其最后一位数字是欠准数字，这种由可靠数字和最后一位欠准数字组成的数值，即为有效数字。如从滴定管上检读的滴定体积18.25ml，百分位上的5就为欠准数字，是实验人员估计得到的，5前面的数字为滴定管上的刻度数，为可靠数字，故这个数值为4位有效数字。

需要注意的是一些非连续型数值，如个数、分数、倍数、名义浓度和标示量等是没有欠准数字的, 其有位数可视为无限多位。如规格项下的“0.3g”中的“0.3”为标示量，在计算中，其有效位数不受限制，也可视为与其他数值的最少有效位数相同。

2 实验记录中的数值修约

实验中记录下来的测定数据，应该包括两部分：可靠数字和一位欠准数字。所有数值在计算之前要进行有效数字的修约， 最终结果应与标准规定限度有效数字的位数一致。若结果要带入下步计算, 可多保留一位有效数字。数值修约是指对拟修约数值中超出需要保留位数的数字按进舍规则进行的进舍，其原则为“四舍六入五留双”。

3 实验记录中的数据处理

3.1 实验中的称重（量取）要求“精密称定” 时，应准确至所取重量的千分之一。如当取样量大于100mg时, 应选用感量为0.1mg（万分之一）的分析天平；当取样量为100～10mg时, 应选用感量为0.01mg （十万分之一）的分析天平；当取样量小于 10mg 时, 应选用感量为0.001mg（百万分之一）的分析天平, 即有效数字的位数为4位或4位以上。要求“称定”时, 应准确至所取重量的百分之一，即有效数字的位数为3位或3位以上。要求“精密量取”时, 应采用移液管量取，数据保留小数点后2位，即3位有效数字以上；“量取”则采用量筒量取，数据保留小数点后1位，即2位有效数字以上。

3.2 甲苯法测定样品中的水分 固体样品粉碎混匀后，精密称取适量，约相当于含水量1～4ml，测定完成后直接检读水量，精确到小数点后2位，保持3位有效数字。 列式运算时，因为水量是3位有效数字，样品重量只能取4位有效数字。常见错误为: 取样量不够，导致水量不足1ml；列式运算时，样品量取了5位以上有效数字。

3.3 挥发油测定法 固体样品粉碎混匀后，取约相当于含挥发油0.5～1ml的样品，称定重量（准确至0.01g）。测定完成后直接检读油量，精确到小数点后2位，保持2～3位有效数字。列式运算时，因为油量是2～3位有效数字，样品重量只能取3～4 位有效数字。

常见错误为: 取样量不够，导致油量不足0.5ml；列式运算时，样品量取了5 位以上有效数字。

3.4 回归方程中a、b和r的有效数字 中药实验中常常采用吸光度法测定含量，需要绘制标准曲线：A=b·C+a，并求出直线的相关系数r。a、b的有效数字由吸光度A和浓度C决定，浓度C一般为4位有效数字。吸光度A有的仪器为3位有效数字，有的仪器为4位有效数字，所以，b同吸光度A的有效位数；常数a为截距，其小数点后保留的位数同吸光度A。相关系数r一般取4位有效数字。

3.5 乙醇量测定法中校正因子f的修约 气相色谱法测定乙醇量与甲醇量都是采用内标法，内标物质与对照品的取用量为1.00～6.00ml(精密量取)，为3位有效数字。 内标物质、对照品与样品的峰面积或峰高只能保留4位有效数字, 校正因子（f）也只能保留4位有效数字。

常见错误为：列式运算时，内标物质、对照品与样品的峰面积或峰高保留所有能读到的数字，校正因子（f）为5位以上有效数字，致使运算既费时又不规范。3.6 液相色谱内标法中校正因子（f）的修约 液相色谱法中峰面积或峰高保留的有效数字位数，应视对照品溶液和样品溶液制备过程中所用容器而定。如取对照品10mg定容至50ml，前两数均为4位有效数字，峰面积或峰高、f值就应保留5位有效数字。取对照品10mg，定容至50ml，取1ml稀释至10ml，前三数中有效数字位数最少的为3位，那么峰面积或峰高、f值就应保留4位有效数字。

常见错误为：岛津、Waters等仪器测得的峰面积或峰高数字较大，保留了所有能读到的数字，f值为5位以上有效数字。

3.7 相对标准偏差（RSD）的修约 在相对标准偏差（RSD）的求算中, 其有效数位（欠准数字的位置）应为其1/3值的首位。如RSD分别为: 3.4526%、1.5213%、0.1358%，其1/3值分别为: 0.011509、0.005071、0.0004527，其首位分别在百分位、千分位、万分位。 按照相对标准偏差(RSD)“只进不舍” 的修约原则, 分别修约为: 4%、1.6%、0.14%。从这个例子可以看出, 当RSD≥3 时, 只保留1位数有效数字; 当RSD＜3 时, 则保留2 位有效数字。