소수점이 많으면 더 정확할까, 표시 분해능 읽는 순서

읽는 데 약 3분

TL;DR

소수점 자리수는 표시가 얼마나 세분되는지에 관한 정보입니다. 그 자리수만으로 실제 오차가 더 작다고 판단할 수는 없습니다. 분해능·정확도 조건·내보내기 자리수를 각각 확인하는 편이 좋습니다.

화면의 정교함과 측정의 신뢰성을 분리한다

BIPM VIM은 분해능을 대응 표시에서 감지 가능한 변화를 일으키는 측정량의 최소 변화로 설명합니다. 따라서 숫자가 촘촘하게 표시되는지와 기준값에 얼마나 가까운지는 구별해 묻는 것이 적절합니다. 디에이텍 장비를 포함해 제품의 화면이나 앱을 비교할 때도 소수점이 많다는 이유만으로 성능이 높다고 표현하지 않는 편이 정확합니다. 제조사 검토 자료에는 표시 관련 항목과 측정 성능 항목을 별도로 둡니다.

표시 사양을 옮길 때 필요한 구분

검토 대상 명시할 필드 예시 확인 내용
Device display display_unit, displayed_decimal_places, display_step_description 사용자가 실제로 보는 형식
Measurement performance accuracy_condition_reference, declared_tolerance_statement 조건이 붙은 성능 사양
Export precision exported_numeric_format, exported_decimal_places, null_representation 파일이 보존하는 자릿수
Presentation rule rounding_method_identifier, trailing_zero_policy, locale_setting 화면 가공 규칙
Data origin original_device_value, original_device_unit, transformation_history 가공 전 값의 보존 위치
Test documentation resolution_test_reference, performance_test_reference 다른 검증을 한 자료인지

앱에서 자릿수가 늘었을 때 생기는 오해

서버가 저장한 수치에 끝자리 영을 더해 표시하면 화면의 자릿수는 늘 수 있습니다. 그러나 추가된 영이 새로운 측정 정보를 만들었다고 볼 수는 없습니다. 반대로 화면이 짧게 표시되더라도 원본 내보내기는 더 많은 자릿수를 가질 수 있으므로 현재 제품의 실제 문서를 확인해야 합니다. 지원 자료가 없으면 추측해서 원시 센서 분해능을 광고하지 않습니다. 디자인 변경과 측정 성능 변경의 설명도 분리합니다.

내부 보고서에는 원본과 표시본을 함께 둔다

연동 시험에서는 원본 문자열, 파싱된 값, 사용자 화면을 같은 테스트 기록에 묶어 두는 방식을 제안합니다. 예를 들어 소수점 끝의 영이 사라지는 것은 표시 문제일 수 있고, 단위가 다른 것은 의미 변환 문제일 수 있습니다. 서로 다른 문제를 한꺼번에 오차로 부르면 해결 부서와 검증 방법이 흐려집니다. 수치 비교가 목적이라면 먼저 단위와 가공 경로부터 맞춘 후 필요한 성능 자료를 검토합니다.

마무리

자릿수는 사용자가 결과를 읽는 형식에 영향을 줍니다. 분해능과 정확도를 별도 항목으로 다루고 원본값을 보존하면 화면 디자인을 성능 증거로 오해하는 일을 줄일 수 있습니다.

#표시분해능
#소수점자리
#화면가공규칙
제품 도입을 고려 중이신가요?
함께 답을 찾아드리겠습니다.