检测数据的测量、运算、修约与比较规则

岳京松 陈文龙

（1、中国家用电器研究院清洁技术研究所 北京 100176; 2、常州进出口商品检验有限公司 江苏常州 213022）

1 引言

在电器检测中，经常要测量、运算与记录数据，测量数据的有效性与数据运算结果的准确性对后续的数据分析十分重要，因此我们必须了解数据测量、运算、修约与比较的相关规则，并正确使用，如此才能得到准确有效的数据。

2 数据的测量

2.1 观测值的有效数字

无论使用何种工具与方法，测量所得到的观测值都会存在一定误差，所以每个测得的数据都是一个含有误差的近似数。谈到近似数就不能不提有效数字。有效数字的定义是“对于一个近似数，从左边第一个不是0的数字起，到精确到的位数止，所有的数字都叫做这个数的有效数字”。当测量仪器选定以后，观测值的有效数字位数就已确定。最末一位有效数字（即估读数字）取到哪一位，是由仪器的精度决定的。因此不能主观上随意增减观测值的有效数字位数。测量结果保留位数的原则是：数据的最末一位数字是不可靠的（估读数字，应与误差所在位一致），但倒数第二位数字应是可靠的（准确数字），估读数字虽然有一定误差，但依然反映了观测值的大小，所以，全部可靠数字和一位估读数字都是有意义的，都称为有效数字，且直接读数时只能得到一位估读数字。对于模拟式测量仪器，估读数字一般取到准确度等级（最小分度值）的下一等级；对于数字式测量仪器，显示装置上的末位数字就是估读数字。例如，使用精度为1mm的尺子测量长度，其测量结果可以为2.5mm，即2位有效数字，2mm由尺子的最小刻度值决定，0.5mm是估读数字；另如，从万用表上读到的电压值为220.9V，即4位有效数字，0.9V视为估读数字。

需要特别注意的是，数据末尾的0既不能随便加上也不能随便去掉，因为增减末尾的0虽对数据的大小无影响，但改变了数据的读数误差所在位以及有效数字个数。如观测值23.50m是4位有效数字，若记为23.5m则是3位有效数字。

另外，对相同数据使用不同的计量单位记录时，可能会造成小数点位置的改变，但有效数字不会改变，即，有效数字与小数点的位置无关。

2.2 估读数字的误差

对于存在估读误差的模拟式测量仪器，有一个十分重要的特点，即，估读的这位数字的最大读数误差一般不会超过最小分度上的半个单位（即，绝对误差）。在实际操作中，究竟估读到哪一位数字，应由测量仪器的精度（即最小分度值）和实验误差要求两个因素共同决定。

一般情况下，根据仪器的最小分度值可以分别采用1/2、1/5、1/10的估读方法：

1）最小分度值为“2”的仪器（包括0.2、0.02等），测量误差出现在同一位上，采用1/2估读。如精度为2A的安培表，一般按最小分度的1/2估读；

2）最小分度值为“5”的仪器（包括0.5、0.05等），测量误差出现在同一位上，采用1/5估读。如精度为5V的伏特表，一般按最小分度的1/5估读；

3）最小分度值为“1”的仪器（包括0.1、0.01等），测量误差出现在下一位上，采用1/10估读。如精度为1mm的刻度尺，一般按此分度的1/10估读。但当测量精度要求不高或仪器精度不足时，也常采用1/2估读。

由此可知，最小分度值单位相同的测量仪器，也可能因最小分度值（精度1mm的尺子与精度2mm的尺子）的差异导致观测值的有效数字位数不同。

3 数据运算规则

3.1 加减运算

在近似数加减运算时，各参与运算数据以小数位数最少的数据位数为准，其余各数据可多取一位小数（即，数据运算前进行一次修约），但最终结果应与小数位数最少的数据小数位数相同。

如，计算“2913.156+5.1+6.636+0.2553”。

正确的计算方法：2913.156+5.1+6.636+0.2553≈2913.16+5.1+6.64+0.26=2925.16≈2925.2；

错误的计算方法：2913.156+5.1+6.636+0.2553=2925.1473≈2925.1。

3.2 乘除运算

在近似数乘除法运算时，各参与运算数据以有效数字位数最少的数据位数为准，其余各数据要比有效数字位数最少的数据多取一位数字，而最后结果应与有效数字位数最少的数据位数相同。

如，计算“12.15×4.32×18.356”。

正确的计算方法：12.15×4.32×18.356≈12.15×4.32×18.36=963.67968≈964；

错误的计算方法：12.15×4.32×18.356=963.469728≈963。

需要特别注意的是，公式中的常数，如算术平均值公式中的n，由于它不是测量值，在确定结果的有效数字位数时不必考虑其位数。对于物理常数或数学常数，如万有引力常数G、π等，在运算中可以取比有效数字位数最少的数值多一位。

如，计算3次测量电量的算术平均值：

第1次，0.9321 kWh；第2次，0.9125 kWh；第3次，0.9265 kWh；

计算过程应为：

(0.9321+0.9125+0.9265)/3=0.9237 kWh。

3.3 数值精度

在近似数计算中，为了确保结果有尽可能高的精度，所有参与运算的数据，在其有效数字后可多保留一位数字作为参考数字（安全数字），但最终出具的结果应仅保留有效数字。

4 数据修约规则

4.1 数据进舍规则

当数据的有效数字位数（修约位数）确定后，后面的数字应舍去。一般情况下按照“数字修约规则”（Banker's Rounding）进行舍入，即，俗称的“四舍六入五成双”。

1） 四舍：若舍去的部分数值，小于保留部分末位的半个单位时，则保留部分末位不变。

如，将10.149修约到一位小数，得10.1。

2） 六入：若舍去的部分数值，大于保留部分末位的半个单位时，则保留部分末位加1。

如，将10.151修约到一位小数，得10.2。

3） 五成双：若舍去的部分数值，等于保留部分末位的半个单位时，则保留部分末位凑成偶数，即，当末位为偶数时，末位不变，当末位为奇数时，则末位加1（俗称“奇进偶不进”）。

需特别注意的是，“五成双”又可详细解释为：

1） 拟舍弃数字的最左一位是5，且其后有非0数字时进1；

如，将10.15002修约到一位小数，得10.2。

2） 拟舍弃数字的最左一位是5，且其后无数字或皆为0时，若所保留的末位数字为奇数（1,3,5,7,9）则进1，即保留数字的末位数字加1；若保留的末位数字为偶数（0,2,4,6,8），则舍去。

如，将10.1500或10.15修约到一位小数，得10.2；如，将10.2500或10.25修约到一位小数，得10.2。

综上所述，被舍弃的数字一定不能见5就入，只有准确按照“数字修约规则”进行修约，才能确保舍入误差成为随机误差。在处理大量数据时，正确的修约，可使舍入误差的均值趋近于零。这就避免了使用四舍五入进舍时，由舍入误差的积累所造成的系统误差。

4.2 修约数据的标注

为帮助数据接收方对数据的实际情况进行判定与处理，同时为避免由于数据修约造成的连续修约错误。在报出数值最右的非零数值为5时，应在数值右上角加“+”或加“-”或不加符号，分别表示该数据进行过舍、进或未舍未进。

如，耗水量修约后，如表示为32.50+L，则表示实际值大于32.50L；如表示为32.50-L，则表示实际值小于32.50L。

4.3 不允许连续修约

拟修约的数字应在确定修约间隔或指定修约位数后一次修约获得结果，不得多次连续修约。

如，将11.4548修约到个位数（即，修约间隔为1，修约位数为个位）。

正确的修约：11.4548→11；

错误的修约：

11.4548 →11.455→11.46→11.5→12。

同样，进行数据计算时，所有参与计算的数据应按“数据运算规则”的要求取值后，进行计算，仅在最终计算结果进行一次修约。

5 数据比较规则

在家电检测中经常遇到观测值或其计算值与标准限定值之间的比较，并由此判断测试结果是否符合标准要求。在判定观测值或其计算值是否符合要求时，有以下两种比较方法可以采用。

5.1 全数值比较法

将测试所得的观测值或计算值不经修约处理（或虽经处理，但应标明它是经舍、进或未舍未进而得），用该数值与限定值进行比较，只要超出限定值规定范围（不论超出程度大小），都判定为不符合要求。当试验所用标准或相关文件，无特殊规定时，均使用全数值比较法。

如，滚筒洗衣机洗净比的限定值为≥1.03，实际计算值为1.029，尽管修约后为1.03，但是按照“全数值比较法”的要求，依然超出限定值规定范围，应判为不符合。

5.2 修约值比较法

将修约后的数值与限定值进行比较，只要超出限定值规定范围（不论超出程度大小），都判定为不符合要求。将观测值或其计算值进行修约，修约位数应与限定值位数一致。

如，滚筒洗衣机洗净比的限定值为≥1.03，实际计算值为1.029，修约后为1.03，如此次试验要求使用“修约值比较法”进行比较，则认为该试验结果符合要求。

由此可见，对于同样的限定值。在进行判定时，使用全数值比较法比使用修约值比较法更为严格。

6 总结

针对以上规则，本文仅使用最简单的情况进行了说明，而实际测量与数据处理过程可能非常复杂，但这些过程往往也是由简单的情况组合而成的，所以我们应熟练运用这些规则来处理数据。在测量或数据计算过程中，不应片面的认为数据保留位数越多就越精确。我们需要牢记的是，数据的取值应以测量所能达到的精度为依据。在测量、记录数据以及运算、比较数据的过程中，所取的数据位数，其精度不能超过测量所能达到的精度；同时，其精度若低于测量所能达到的精度，造成了精度损失，也是不正确的。

[1] 中国标准化研究院等；GB/T 8170-2008 数值修约规则与极限数值的表示和判定；中华人民共和国国家质量监督检验总局等；2008-07-16；

[2] 费业泰等；误差理论与数据处理（第6版）；机械工业出版社；2010-05-01；

[3] 王婧；测量数据有效数字位数的确定与运算的应用；计量与测试技术；2009年12月第27卷第6期；

[4] 郑剑，肖蕙蕙，谢芳芳；从直接测量中探讨有效数字的一般定义；上海计量测试；2006.06总第196期；

[5] 汤大其；间接测量值的有效数字问题析疑；安庆师范学院学报（自然科学版）；2002年8月，第8 卷第3 期。