不同实验方法对测定叶绿素a的结果分析对比相关关系探讨

殷丽萍，孙 洋

（1.云南省环境监测中心站，云南昆明650034；2.云南方源环保科技有限公司，云南昆明650000）

不同实验方法对测定叶绿素a的结果分析对比相关关系探讨

殷丽萍1，孙 洋2

（1.云南省环境监测中心站，云南昆明650034；2.云南方源环保科技有限公司，云南昆明650000）

2009年1～8月于滇池外海水体随机取样20组，监测叶绿素a项目，采用两种不同监测分析方法，对其监测结果，应用线性函数Y＝a＋b x的形式，进行了一元线性回归相关关系 （r）值的显著性检验，验证了两种监测方法之间的相关关系。

叶绿素a；监测数据；结果对比；相关关系

叶绿素是藻类重要的组成成分之一，也是评价富营养化水环境质量的重要指标。常规监测中，水和废水监测分析方法第四版 （国标方法）和湖泊生态调查观测与分析方法中 （湖泊生态调查方法），两种监测方法在前处理、低温干燥时间、比色等方面有所不同。国标方法采用低温干燥时间6～8h，进行4个波长直接比色，比色过程简单。而湖泊生态调查方法，采用低温干燥时间为10～12h，虽然只有2个波长，但比色过程中要进行酸化前、酸化后处理，操作相对麻烦。为获取富营养化水体中叶绿素a监测结果的准确性、可靠性，我们在时间上进行了长达8个月，上百组数据两种方法的比较实验。现随机抽取20组数据进行相关关系的研究讨论。

1 监测方法

（1）《水和废水监测方法》第四版。简称：国标方法。

（2）湖泊生态调查观测与分析方法。简称：湖泊生态调查方法。

2 数据来源

2009年1～8月滇外海水质随机取样20组，用国标方法和湖泊生态调查方法对比实验监测结果。

3 两者数据之间的检验方法

依据中国环境监测总站编写组编写的 《环境水质监测质量保证手册》中数据处理和常用统计方法进行检验。

4 两种方法监测数据的直观对比

图1和表1是20组两种不同监测方法的结果，可直观看出湖泊生态调查方法的监测结果除了编号10高出国标法0.017倍外，其他监测结果均低于国标方法，监测结果之间的差值最小的是编号8，绝对偏差为0.39 mg／m3、相对偏差为0.23%。差值最大的是编号19，绝对偏差为10.27mg／m3、相对偏差为3.67%。目前在生物监测质量控制手册中，对叶绿素a的监测结果质控要求，没有明确的评价标准。我们可以通过数理统计学手段，对两种监测数据之间的关系，做进一步的对比验证。

5 相关关系显著性检验

主要采用2009年1～8月滇池外海叶绿素a项目，20组国标方法和湖泊生态调查方法的对比实验监测数据，随机抽样，使n≥20，进行了相关关系检验。

（1）相关关系的确定方法：对样本X－Y进行线性回归，检验X－Y相关关系是否线性化，求得回归方程。

回归方程：Y＝a＋bx

式中：a＝y－bx，b＝Lxy／Lxx。

相关系数：

式中：

r值的大小通过与由样本n所测量次数及确定显著水平a查表所得值进行比较，当︱r︱≥ra时，检验回归直线方程两个变量间的关系才有意义。

回归方程的显著性检验：计算T值，

比较T值与t（a／2，n－2）的大小，当T＞t（a／2，n－2）时，认为回归的效果是显著的，回归方程合理。否则认为回归效果不显著。

（2）回归方程的确定：对20组国标方法和湖泊生态调查方法的监测数据进行一元线性回归，建立回归方程如下：

Y＝33.88＋0.9339x

式中：Y：湖泊生态调查方法，X：国标方法。

相关系数r为0.9736。自由度n－2＝18和a为0.01时查检验表得相关系数的取码值r为0.5614。由此可见︱r︱＝0.9736，＞0.5614，认为叶绿素a监测数据在国标方法和湖泊生态调查方法之间线性关系是有意义的。

显著性检验：T＝7.61

取显著性水平a＝0.05，查t（0.05／2，18）结果为2.504，T为7.61＞2.504，因此国标方法和湖泊生态调查方法两方法之间的回归效果显著。

6 回归方程的精密度

已知自变量X，通过回归方程可估计因变量的平均值，但不能准确地知道Y的值，测量值Y与估计值的差别反映了回归直线的精密度。在一元线性回归中，可以用剩余标准差S来描述回归直线的精密度。

即：Y′＝bx＋a＋2s

Y″＝bx＋a－2s

国标方法和湖泊生态调查方法之间回归方程的精密度：根据上述公式计算，剩余标准差S＝0.95，即回归方程的精密度为Y＝33.88＋0.9339x ±2×0.95。

7 结论

（1）两种不同的监测方法分析实验结果，通过函数一元线性回归、T检验、精密度分析后，国标方法和湖泊生态调查方法的监测数据之间线性关系显著，其线性相关关系r为：0.9736，远大于取码值0.5614。显著性T检验：T为7.61＞2.504，回归方程的精密度Y值均落在95.4%以内。

（2）两种监测方法均能测定出可靠的理想值，建议在富营养化水体监测中，应选择操作简便的国标方法进行测定，既节省了化学试剂又提高了工作效率，而且数据准确可靠。

［1］中国环境监测总站.环境水质监测质量保证手册 ［M］.北京：化学工业出版社，1984.

［2］国家环境保护总局.水和废水监测分析方法 （第四版）［M］.北京：中国环境科学出版社，2002.

［3］黄祥飞.湖泊生态调查观测与分析 ［M］.北京：中国环境科学出版社，2005.

Analysis，Comparison and Correlation of Different Experimental Methods in Chlorophyll－a Test

YIN Li-ping1，SUN Yang2
（Yunnan Provincial Environmental Monitoring Center，Kunming Yunnan 650034 China）

From January to August of 2009，20 sets of samples were taken from the outer Dianchi Lake to monitor Chlorophyll a.Two different methods were applied for the monitoring and analysis.Based on their monitoring results，the correlation of the two methods are testified by the significance test of the correlation value（r）through simple linear regression with the function of Y＝a＋b x.

chlorophyll－a；monitoring data；result comparison；correlation

X83

：A

：1673－9655（2013）02－0129－02

�8月国标方法与湖泊生态调查方法监测结果 （mg／m3）

2012－11－09

编号1＃ 2＃ 3＃ 4＃ 5＃ 6＃ 7＃ 8＃ 9＃ 10＃国标 35.47 31.64 92.14 124.91 126.75 168.95 159.23169.25 199.0 196.55湖泊 28.47 25.28 90.32 115.36 119.65 149.98 155.96 170.03 195.62 200.03编号11＃ 12＃ 13＃ 14＃ 15＃ 16＃ 17＃ 18＃ 19＃ 20＃国标 199.06 200.45 212.50 196.53 230.23 239.42 253.88 272.33 290.31 295.96湖泊 180.13 190.37 198.62 188.69 215.73 229.92 236.59 270.09 269.78 288.89