有效数字在环境监测中的应用

韦业（北海市环境监测中心站，广西北海 536000）



有效数字在环境监测中的应用

韦业
（北海市环境监测中心站，广西北海 536000）

对实验中常用的玻璃量具如单标线吸管、容量瓶、比色管、刻度吸管等进行分析，确定了直读式数据的读数规则及有效位数。如10 mL单标线吸管有效数字位数为5位，而10 mL刻度吸管随移取溶液体积不同其有效数字位数可能为2，3或4位。分析了环境监测中间接式数据的来源，如标准溶液的浓度、标准曲线的截距、斜率、样品最终浓度等，这些数据应当遵守一定的修约及运算规则，由此确定了间接式数据应当保留合理的有效位数。研究结果可以为环境监测人员开展实验及数据处理提供依据。

环境监测；数值修约；有效数字

环境监测数据要求具有代表性、准确性、精密性、可比性、完整性，数据处理是环境监测中一个重要的环节，如果处理不当将会导致监测结果不严谨。环境监测所产生的数据大致可以分为两种：一种是直读式数据，比如滴定管滴定的体积、溶液取用量、药品质量等；另一种是间接数据，这种数据是通过一定公式计算得到的，比如工作曲线的截距、斜率、相关系数、样品的最终浓度等。这两种数据，无论哪一种都不能随意保留小数点位数，这就涉及到有效数字。在实际工作中，发现监测人员对检测数据保留多少位小数点把握不准。其实所谓有效数字，可以理解为在测量过程中，能够反映测量准确的数字和一位估读的数字［1-4］，跟计量器具的精密度和准确度有直接关系［5］。比如10 mL的刻度吸管，其最小分度值是0.1 mL，因此实际读数时应保留到小数点后2位，如9.00 mL，10.00 mL，8.56 mL等，最后一位“0”，“0”，“6”都是估读的。而计算所得的数字是以直读数字为基础，按照有效数字的修约规则进行修约、运算所得。由此可见不能通过保留无数位小数来提高检测精度，但至今还未见到系统性整理环境监测中数据有效性的文献报道。为此笔者对环境监测中的有效数字问题进行探讨。

1　直读数字

环境监测过程所用的计量器具是产生直读数字的直接依据，因此分析人员应当先弄清楚该量具的最小分度值或者能够测量的精准数字，由此来确定实验过程应当记录的小数点位数。单标线量具只有一条刻度线，根据该量具允差来保留有效位数，最后一个“0”当做估读位。

1.1单标线吸管

单标线吸管是环境监测中经常用到的玻璃量具之一，根据允差分为A级和B级［6］，A级严于B级，此类量具只有一条刻度线，当液体弯月面与刻度线水平相切即达到定量要求，但是此时读数保留几位小数点，往往不容易把握，其遵守的原则是读数的小数点位数应当与该量具的允差小数点位数相同，表1列出了常见单标线吸管的读数及有效位数。

表1　单标线吸管读数及有效位数

由表1中可以看出，A级允差是B级的一半，所以A级管准确度较高，但是两者读数的有效位数相同，因此精确度要求比较高的应尽量选用A级管。

1.2比色管

比色管是环境监测中分光光度法经常用到的玻璃量具，具有便于定容、便于清洗等优势。比色管的精度比单标线吸管的精度低，其读数保留小数点位数应当与允差小数点位数相同。表2列出了比色管读数及有效位数。

表2　比色管读数及有效位数

由表2可以看出，比色管允差［7］较单标线吸管大很多，以50 mL为例，比色管允差为±0.40，而50 mL单标线吸管（A级）允差为±0.050，前者是后者的8倍，前者有效数字4位，而后者为5位，因此比色管是比较粗略的定容量具。

1.3容量瓶

容量瓶在实验过程中似乎不参与直接读数，实验人员往往认为定容到“刻度线”就可以了，但是它直接牵涉到配制溶液浓度的有效数字（该保留几位小数点）。表3列出了容量瓶读数及有效位数。

表3　容量瓶读数及有效位数

由表3可以看出，容量瓶与单标线吸管类似，分为A级、B级，且允差与单标线吸管几乎一样，A级允差是B级的一半，所以A级准确度较高，但是两者读数的有效位数相同，读数保留有效位数的规则为与允差小数点位数平齐［8］。容量瓶的标称容量越大有效位数越多。定容溶液体积越大准确度越高，如定容5 mL和定容2 000 mL时，5 mL溶液稍损失一点就会导致很大的误差，因此前者的有效位数只有3位，后者为7位。

1.4带刻度的量具

带刻度的量具包括刻度吸管、滴定管、量筒、量杯等，其读数很简单，主要是弄清其最小刻度值是多少，读数时读到最小刻度值的下一位（估读位）即可。但需要注意，有些量具刻度线不是十等分，其最小刻度值不是1，0.1，0.01，0.001，……，而是5，2，0.2，0.002，……，对这类量具读数需要注意。

1.4.1最小分度值为1的10n倍数的量具

环境监测实验中经常用到最小分度值为1的10n（n=1，2，3，……）的刻度吸管，此类量具有效位数与量具的最小分度值和分析取用量有关，例如用最小分度值为0.1 mL的10 mL刻度吸管取用0.5 mL溶液读数，应当为0.50 mL（2位有效数字）；取用1 mL溶液读数应当为1.00 mL（3位有效数）；取用10 mL溶液，读数应当为10.00 mL（4位有效数）。因此当实验要求精度很高时，不能拿大容量移液管取小体积样品，表4列出了最小分度值为1的10n读数及有效位数。

表4　最小分度值为1的10n读数及有效位数

从表4中可以看出，最小分度值为1的10n倍数的量具，其读数比最小分度值多一位即可。

1.4.2最小分度值不是1的10n倍数的量具

环境监测实验中有些玻璃量具最小分度值不是1的10n（n=1，2，3，……），而是0.002，0.005，0.05等，此类量具读数需要斟酌。当溶液的弯月面在两条刻度线之间，此时最后一位数的估读值应当是两条刻度线数值之间的一个数。如0.1 mL刻度吸管，最小分度值为0.005 mL，第3条刻度线为0.015 mL，第4条刻度线为0.020 mL，溶液弯月面恰好在第3条和第4条刻度线之间，读数不可能是0.015Χ mL，而是0.01X mL，因为0.015到0.020，只有小数点后2位是准确的，第3位是估读值。表5列出了最小分度值不是1的10n读数及有效位数。

表5　最小分度值不是1的10n读数及有效位数

由表5可以看出，对最小分度值不是1的10n倍数的量具其读数有两种情况，当弯月面在两条刻度线之间时，其保留的小数点与最小分度值一致；如果弯月面刚好在某一刻度线，此时刻度线相当于一个“标杆”可以多保留一位，但估读的这一位必定是“0”。

2　间接数字

环境监测中间接数字很多，比如配制溶液的浓度，工作曲线的截距、斜率、相关系数，样品的浓度等。间接数字应当如何确定？首先要遵守修约规则［9］，其次按照有效数字的运算规则进行计算得出［10-11］。

修约规则可总结为“四舍六入五成双，五后非0则进1，五后为0视奇偶，五前为奇则进1，五前为偶则舍去”。常涉及到的运算有加、减、乘、除运算等。加、减法运算时先将参与运算的数值按照修约规则修约到与小数点位数最少者相同后再计算。乘、除运算时，同样是先将运算的数值照修约规则修约到与有效数字位数最少者相同后再计算，得数的有效数字与之相同。

2.1溶液的浓度

2.1.1配制溶液的浓度

溶液浓度的有效位数应当根据配制溶液所用的量具来确定。如用普通天平和万分之一电子天平称量药品，用量筒和容量瓶确定溶液体积，其精确度不同，有效数字也不同。

用普通电子天平称量2 g药品，该电子天平精度为0.1 g，读数应该为2.0 g，用100 mL量筒量（100 mL量筒，最小分度值1 mL）取100 mL纯水来溶解，其读数应为100.0 mL，该药品的质量浓度应该为2.0/100.0=0.020 （g/mL），2位有效数字。如改用万分之一电子天平称量（精度0.1 mg），读数应该为2.0000 g，改用100 mL容量瓶来定容，其读数应该为100.000 mL，该药品的质量浓度应为2.000 0/ 100.000=0.020 000 （g/mL），5位有效数字，较普通电子天平多出3位有效数字。

2.1.2由标准溶液配制的溶液

标准溶液符合国家技术规范，且经过多家实验室验证，溶液的标称浓度在运算时可以看作有效数字最多者。如标称浓度为500 mg/L的标准溶液，用1 mL单标吸管移取1 mL（读数应为1.000 mL）于100 mL容量瓶中，用纯水定容至标线（读数应为100.000 mL），所得溶液的质量浓度应为500.0×（1.000 /100.000）=5.000 （mg/L），4位有效数字。

例如氨氮标准使用液的浓度1.000 mg/L，用比色管配制氨氮标准曲线系列，移取标准溶液全部使用单标线吸管，其读数及对应的浓度见表6。

如果移取溶液改用10 mL刻度吸管，其它条件不变，其读数有所变化，因最小刻度为0.1 mL，保留一位估读小数，只能读到小数点后2位，在其它条件不变的情况下，其读数及对应的浓度见表7。

由表7可见，标准曲线系列浓度值的有效数字与所用的量具有直接关系，以刻度吸管绘制的标准曲线有效数字只有3位，而以单标线移液管绘制的标准曲线则为4位。

表6　绘制标准曲线单标线移液管的读数及有效位数

2.2标准曲线的截距、斜率及相关系数

标准曲线截距的最后一位与因变量的最后一位取齐，斜率的有效位数应与自变量的有效位数相同，相关系数只舍不入，保留到小数点后第一个非9数字，如果小数点后多于4个9，最多保留4位［12］。需要要注意，截距保留多少位小数点，不是根据有效数字来定，而是根据因变量的小数点位数来确定。如果因变量小数点后有3位数，那么截距也保留3位即可，这样以便计算未知样品含量时，截距参与加减法运算。斜率的有效位数不是根据小数点位数来确定，而是根据因变量有效位数来确定，如前面举例配制的标准溶液系列，对应的斜率保留的有效数字分别是4位和3位。

表8　以单标线吸管绘制的标准曲线

以前面配制的标准系列为例，以浓度-吸光度计算标准曲线得：

截距a=0.000 （保留小数点后3位，因因变量吸光度值小数点后只有3位）；

斜率b=0.639 0（表示为6.390×10-1，4位有效数字，因自变量浓度值有效数字为4位）；

相关系数r=0.999（只舍不入）。

2.3未知样品测定结果的计算

未知样品测定结果的计算也应当遵守有效数字修约法则及有效数字的加、减、乘、除运算规则，不同的响应值保留不同的有效位数。

如某人用4-氨基安替比林分光光度法蒸馏法分析水质的挥发酚，含量（μg）-吸光度绘制标准曲线，得线性方程：Y=0.025 15X+0.002，某3个未知样品的吸光度（扣除空白值后）见表9。

表9　未知样品的浓度计算及有效位数

表9中的含量值是由样品的吸光度根据标准工作曲线计算得到的，水样体积属于直读数值，水样浓度是由水样的含量除以水样的体积，根据有效数字运算规则保留不同的有效位数。

3　结语

环境监测数据处理是一项十分重要的工作，涉及到有效数字的修约及运算规则，环境监测人员如果不能深刻理解有效数字的含义，很容易造成运算结果错误。在《最高人民法院、最高人民检察院关于办理环境污染刑事案件适用法律若干问题的解释》（法释〔2013〕15号）出台后，环境监测数据将作为证据呈堂对质，因此其数据应当科学严谨，不得有丝毫差错。

［1］ 梁玉兰.有效数字、数据处理在实验室测试中的应用［J］.中国棉花加工，2015（6）: 40-41.

［2］ 梁信源，兰宇卫，周立亚.分析化学基础课中的有效数字问题［J］.高等函授学报：自然科学版，2010（6）: 44-46.

［3］ 杨宾利.有效数字新见解在卫生理化检验中的应用研究［J］.世界最新医学信息文摘，2015，29: 116-116.

［4］ 段坤杰.有效数字在工科大学物理实验中的应用探讨［J］.大学物理实验，2009，22（3）: 82-84.

［5］ 谭成勇.有效数字新见解在卫生理化检验中的应用浅析［J］.中国卫生产业，2015，30: 132-134.

［6］ JJG 196-2006 常用玻璃量器检定规程［S］.

［7］ JJG 10-2005 专用玻璃量器［S］.

［8］ 封跃鹏，孙自杰，高保国.检测结果的数值修约和数据处理探讨［J］.理化检验：化学分册，2015，11（51）: 1 585-1 589.

［9］ 国家环境保护总局.水和废水监测分析方法［M］.4版.北京：中国环境科学出版社，2002: 71-73.

［10］ 孙红贵，朴影，张建华.有效数字及其运算［J］.嘉兴学院学报，2005（6）: 31-33.

［11］ 林景星.检测数据的修约研究与探讨［J］.中国测试，2011: 26-28.

［12］ HJ 630-2011 环境保护部.环境监测质量管理技术导则［S］.

Application of Significant Digits in Environmental Monitoring

Wei Ye
（Beihai Municipal Environmental Monitoring Center， Beihai 536000， China）

The general reading rule and number of significant digits of direct reading data were concluded on the basis of analysis of glass containers often used in experiments such as singlet burette，volumetric flask，comparison tube，and graduated pipette. For example，there were five significant digits for a 10 mL singlet burette，however，a 10 mL graduated pipette might have two，three or four significant digits depending on how much solution it absorbed. The sources of indirect data in environmental monitoring were also analyzed，such as the concentration of standard solution，the intercept and slope of standard curve，and the final concentration of samples. These data should follow certain rules of rounding off and operation，based on which the reasonable number of significant digits could be determined. The research results can provide reference for environmental monitoring personnel to carry out experiments and data processing.

environmental monitoring； rounding off of numerical values； significant digit

O651

A

1008-6145（2016）04-0090-04

10.3969/j.issn.1008-6145.2016.04.025

联系人：韦业；E-mail: JZ8333781@126.com

2016-04-12