평균 오차가 0이어도 양·음 오차를 따로 확인해야 하는 이유

읽는 데 약 6분

음주측정 결과를 기준 농도와 비교할 때, 안전관리자나 품질·기술 담당자는 표에 적힌 평균 오차부터 확인하기 쉽습니다. 그러나 평균이 0이라고 해서 모든 측정값이 기준값과 일치한 것은 아닙니다. 어떤 측정점에서는 높게 표시되고 다른 측정점에서는 낮게 표시된 차이가 합계에서 서로 지워졌을 수 있기 때문입니다.

음주측정기는 호흡에 포함된 알코올 성분을 감지해 농도로 표시하는 장치이며, 시험에서는 장비의 표시값을 기준값과 비교합니다. 이때 오차는 보통 ‘측정값−기준값’으로 계산합니다. 양의 오차와 음의 오차를 따로 보면 장비가 어느 농도 구간에서 어느 방향으로 벗어났는지 알 수 있고, 평균값 하나에 가려진 추가 검토 지점도 찾을 수 있습니다.

오차의 부호는 계산 방향부터 정해진다

국제측정학용어집(VIM)은 측정오차를 측정량값에서 기준량값을 뺀 값으로 정의합니다. 이 글에서도 그 방향을 따릅니다. 예를 들어 기준값이 0.20 mg/L이고 장비 표시값이 0.22 mg/L라면 오차는 +0.02 mg/L입니다. 표시값이 0.18 mg/L라면 −0.02 mg/L가 됩니다.

중요한 점은 모든 시험 결과에 같은 계산 방향을 적용하는 것입니다. 한 표에서는 ‘측정값−기준값’, 다른 표에서는 ‘기준값−측정값’을 쓰면 +와 −가 뜻하는 바가 뒤바뀝니다. 원측정값, 비교에 쓴 기준값, 계산식, 단위를 함께 남겨야 이후에 같은 결과를 다시 계산하거나 다른 담당자가 표를 검토할 수 있습니다.

평균 0은 차이가 없다는 뜻이 아니다

다음은 계산 원리를 설명하기 위해 가정한 시험 예시다. 모든 값은 같은 조건에서 비교한 mg/L 단위의 값이라고 가정하며, 특정 음주측정기의 성능이나 허용 기준을 나타내지 않는다. 장비 A는 낮은 시험점에서 기준보다 높고 높은 시험점에서 기준보다 낮게 표시되는 상황이다.

기준값 장비 A의 표시값 측정값에서 기준값을 뺀 오차
0.10 mg/L 0.12 mg/L +0.02 mg/L
0.20 mg/L 0.20 mg/L 0.00 mg/L
0.30 mg/L 0.28 mg/L −0.02 mg/L

세 오차를 더하면 0 mg/L이므로 부호를 포함한 평균 오차도 0 mg/L이다. 하지만 각 결과가 기준값에서 떨어진 크기는 첫 번째와 세 번째 시험점에서 각각 0.02 mg/L이다. 평균이 0이라는 결과는 이 두 차이가 없었다는 뜻이 아니라, 한쪽의 양의 값과 다른 쪽의 음의 값이 산술적으로 상쇄됐다는 뜻이다.

따라서 평균 오차는 전체 결과가 어느 한 방향으로 치우쳤는지 살피는 지표로는 쓸 수 있지만, 각 시험점이 기준값에 얼마나 가까웠는지를 단독으로 보여 주지는 못한다. 특히 여러 농도를 한 번씩 측정한 자료에서는 농도에 따라 오차 방향이 바뀌는 양상이 평균값에 묻힐 수 있다.

방향과 크기는 서로 다른 질문에 답한다

부호 있는 평균 오차는 ‘전체적으로 높게 또는 낮게 표시되는 경향이 있는가’를 보는 데 적합하다. 반면 절대 오차는 부호를 제거하고 기준값과의 거리만 보는 값이다. 위 가정 예시에서 절대 오차는 0.02, 0.00, 0.02 mg/L이고, 그 평균은 약 0.0133 mg/L이다. 부호 평균이 0이어도 측정값과 기준값 사이의 거리가 남아 있음을 이 값으로 확인할 수 있다.

가장 큰 절대 오차도 함께 볼 필요가 있다. 평균 절대 오차가 작더라도 특정 농도에서만 큰 차이가 발생했다면, 전체 평균만으로는 그 시험점을 알아차리기 어렵다. 반대로 절대 오차만 보면 장비가 계속 높게 표시하는지, 낮은 농도에서는 높고 높은 농도에서는 낮게 표시하는지는 알 수 없다. 두 지표는 우열 관계가 아니라 서로 다른 관찰 목적을 가진다.

반복 측정 결과도 구분해서 해석해야 한다. 같은 기준 농도에서 여러 번 측정한 결과의 차이는 그 조건에서 결과가 얼마나 흩어졌는지를 살피는 자료가 된다. 여러 기준 농도에서 얻은 값을 한데 평균한 결과는 농도 구간별 편차를 찾는 데 쓰인다. 두 자료를 같은 ‘평균 오차’라는 이름으로 묶으면, 무엇을 평균했는지가 사라진다.

상쇄를 발견한 뒤에는 원값으로 돌아간다

관찰 단계에서는 농도별로 기준값, 장비 표시값, 부호 있는 오차를 나란히 놓는다. 해석 단계에서는 양의 오차가 특정 구간에 모이는지, 음의 오차가 다른 구간에 모이는지, 또는 같은 기준값의 반복 결과가 넓게 퍼지는지를 본다. 이 순서를 거치면 평균 0을 ‘문제가 없음’으로 읽는 대신, 어떤 결과가 상쇄됐는지를 구체적으로 확인할 수 있다.

가능한 조치로는 해당 시험점의 원자료를 다시 대조하고, 비교 대상 장비와 기준값의 단위가 같은지 확인하며, 각 시험점이 동일한 횟수만큼 평균에 포함됐는지 정리하는 방법이 있다. 예를 들어 0.10 mg/L 결과가 한 번이고 0.30 mg/L 결과가 여러 번이라면, 전체 평균은 반복 횟수가 많은 쪽의 영향을 더 크게 받는다. 누락된 측정 결과를 오차 0으로 넣어 평균을 맞추면 실제 시험 자료의 의미가 달라진다.

완료 기준은 평균값 하나를 얻는 데 있지 않다. 각 시험점의 원값과 오차 방향을 추적할 수 있고, 부호 있는 평균·절대 오차·가장 큰 절대 오차가 각각 무엇을 뜻하는지 구분해 설명할 수 있어야 한다. 그 상태라야 평균 0이 실제 일치인지, 양·음 오차의 상쇄인지 판단할 근거가 남는다.

비교 대상이 같아야 평균도 비교할 수 있다

두 음주측정기의 요약값을 비교하려면 동일한 기준 농도, 같은 단위, 같은 반복 횟수로 얻은 결과인지 먼저 맞춰야 한다. 한 장비는 낮은 농도 위주로, 다른 장비는 높은 농도 위주로 시험했다면 평균 오차의 차이를 장비 차이라고 단정하기 어렵다. 온도나 그 밖의 시험 조건이 서로 달랐는지도 원자료에서 분리해 기록해야 한다.

소수점 표시도 결과 해석에 영향을 준다. 계산 중에는 원자료의 정밀도를 유지하고, 보고서에 표시할 때만 필요한 자릿수로 반올림하는 편이 낫다. 작은 양의 오차와 음의 오차가 반올림 뒤 모두 0처럼 보이면, 평균이 0이 된 이유와 각 결과의 차이가 함께 가려질 수 있다.

결국 양·음 오차를 따로 확인하는 이유는 평균을 부정하기 위해서가 아니다. 평균이 알려 주는 전체 방향과, 농도별 원자료가 보여 주는 차이의 크기·방향을 함께 읽기 위해서다. 이 구분이 있어야 0이라는 요약값을 과도하게 해석하지 않고, 추가로 살펴볼 시험점도 근거 있게 정할 수 있다.

참고 자료

#부호오차상쇄
#절대오차크기
#농도별오차표
제품 도입을 고려 중이신가요?
함께 답을 찾아드리겠습니다.