[화학] 불확도, 정확도, 정밀도의 측정

계수 측정은 계수 절차가 진행되는 동안 계수되는 물체의 수가 변하지 않는다면 불확실성이 없는 유일한 측정 유형이다. 이러한 계수 측정의 결과는 정확한 숫자의 예이다. 상자 안에 들어 있는 달걀을 세어보면 상자에 들어 있는 달걀의 개수를 정확히 파악할 수 있다. 정의된 수량의 숫자도 정확하다. 정의에 따르면 1피트는 정확히 12인치, 1인치는 정확히 2.54센티미터, 1그램은 정확히 0.001킬로그램이다. 그러나 계수 이외의 측정에서 파생된 수량은 사용되는 측정 절차의 실질적인 한계로 다양한 범위에서 불확실하다.

 

측정의 중요한 수치

측정된 수량은 정의된 수량이나 직접 계산된 수량과 달리 정확하지 않습니다. 눈금이 표시된 실린더에서 액체의 부피를 측정하려면 액체의 곡면에서 가장 낮은 지점인 메니스커스의 바닥에서 측정해야 한다.

 

이 눈금이 표시된 실린더의 액체 부피를 측정하려면 21mL와 22mL 표시 사이의 거리를 10분의 1밀리리터로 정신적으로 세분한 다음 메니스커스 바닥에서 판독(추정)을 해야 한다.

 

위 그림을 참조하면 이 경우 메니스커스의 바닥은 21과 22 표시 사이에 명확하게 위치하므로 액체의 부피는 확실히 21mL보다 크지만 22mL보다 작다. 메니스커스는 21mL 표시보다 22mL 표시에 조금 더 가까운 것으로 보이므로 액체의 부피에 대한 합리적인 추정치는 21.6mL이다. 21.6이라는 숫자에서 숫자 2와 1은 확실하지만 6은 추정치이다. 어떤 사람은 메니스커스의 위치가 각 표시와 똑같이 멀다고 추정하여 10번째 자리의 숫자를 5로 추정할 수 있고, 어떤 사람은 22mL에 더 가깝다고 생각하여 이 숫자를 7로 추정할 수도 있다. 10분위 자리가 불확실하기 때문에 백분위 자릿수를 추정하는 것은 무의미하다는 점에 유의하자. 일반적으로 이 눈금이 표시된 원통과 같은 숫자 눈금은 가장 작은 눈금 단위의 10분의 1까지 측정할 수 있다. 이 경우 눈금은 1mL 단위이므로 부피를 가장 가까운 0.1mL까지 측정할 수 있다.

 

이 개념은 적극적으로 추정하지 않더라도 모든 측정에 적용된다. 표준 전자 저울에 동전 1개를 올려놓으면 6.72g의 판독값을 얻을 수 있다. 숫자 6과 7은 확실하며, 2는 동전의 질량이 6.71~6.73g일 가능성이 높다는 것을 나타낸다. 동전의 무게는 약 6.72g이며, 측정의 공칭 불확실성은 ±0.01g이다. 더 민감한 저울로 동전의 무게를 측정하면 질량은 6.723g이 될 수 있다. 즉, 질량은 6.722~6.724g 사이로 0.001g의 불확실성이 있다. 모든 측정에는 사용 중인 장치와 사용자의 능력에 따라 약간의 불확실성이 있다. 불확실한 마지막 숫자를 포함하여 측정값의 모든 숫자를 유효 숫자 또는 유효 숫자라고 한다. 예를 들어, 가장 가까운 파운드 단위로 무게를 표시하는 저울에 서서 '120'이 표시되면 1(백), 2(십), 0(원)이 모두 유효한(측정된) 값이다.

 

측정 결과의 유효 숫자가 측정 절차의 확실성을 정확하게 나타낼 때 측정 결과가 제대로 기록된 것이다. 하지만 기록된 값을 분석하여 무엇이 중요하고 무엇이 중요하지 않은지 판단하려고 한다면 어떻게 해야 할까? 우선, 0이 아닌 숫자는 모두 중요하며, 약간의 생각이 필요한 것은 0뿐이다. 0에 대해 '선행(Leading)', '후행(Trailing)', '종속(Captive)'이라는 용어를 사용하고 0을 처리하는 방법을 고려해 보자.

 

왼쪽의 첫 번째 0이 아닌 숫자부터 시작하여 이 숫자와 나머지 모든 숫자를 오른쪽으로 세어본다. 마지막 자리가 소수점 왼쪽에 있는 후행 0이 아니라면 측정값의 유효 숫자 수이다.

 

종속 0은 측정 결과이므로 항상 중요하다. 그러나 선행 0은 소수점이 어디에 있는지를 알려줄 뿐 결코 중요하지 않다.

 

이 예에서 선행 0은 중요하지 않다. 지수 표기법을 사용하여 8.32407×10-3으로 표현하면 숫자 8.32407은 모든 유효 숫자를 포함하고 10-3은 소수점을 찾는다.

 

소수점 위치의 왼쪽에 0으로 끝나는 숫자의 유효 숫자는 불확실하다. 1,300그램이라는 측정값의 0은 중요할 수도 있고 단순히 소수점 위치를 나타낼 수도 있다. 지수 표기법을 사용하면 이러한 모호함을 해결할 수 있다. 1.3×103(소수점 둘째 자리), 1.30×103(소수점 셋째 자리, 소수점 10자리까지 측정한 경우) 또는 1.300×103(소수점 첫째 자리까지 측정한 경우, 소수점 넷째 자리) 등이다. 소수점 형식의 숫자만 사용할 수 있는 경우에는 뒤에 오는 0이 모두 유의하지 않다고 가정하는 것이 좋다.

 

유의미한 수치를 결정할 때는 보고된 값에 주의를 기울이고 그 값이 타당한지 평가할 때 측정값과 유의미한 수치를 합리적이거나 가능성 측면에서 생각해야 한다. 예를 들어, 2014년 1월 공식 인구조사에서는 미국의 상주 인구가 317,297,725명으로 보고되었다. 미국 인구가 보고된 9개의 유의미한 숫자, 즉 정확한 인구 수로 정확하게 결정되었다고 생각할까? 사람들은 끊임없이 태어나고, 죽고, 해외로 이주하고 있으며, 실제로 집계되지 않은 많은 수의 사람들을 설명하기 위해 가정이 이루어진다. 이러한 불확실성 때문에 인구는 약 100만 명 내외로 추정하는 것이 더 합리적일 수 있으며, 이 경우 인구는 317,108명으로 보고해야 한다.

 

계산의 중요한 수치

불확실성의 두 번째 중요한 원칙은 측정에서 계산된 결과는 적어도 측정 자체만큼 불확실하다는 것이다. 측정의 불확실성을 고려하여 계산된 결과의 불확실성을 잘못 표현하지 않도록 해야 한다. 이를 위한 한 가지 방법은 다음 세 가지 숫자 반올림 규칙에 따라 결정되는 정확한 수의 유효 숫자를 사용하여 계산 결과를 보고하는 것이다.

 

1. 숫자를 더하거나 뺄 때는 소수점 이하 자릿수가 가장 적은 숫자(덧셈과 뺄셈에서 가장 확실한 값)와 같은 소수점 이하 자릿수로 결과를 반올림한다.

 

2. 숫자를 곱하거나 나눌 때는 소수 자릿수가 가장 적은 숫자(곱셈과 나눗셈에서 가장 확실한 값)와 같은 자리 수로 반올림한다.

 

3. 삭제할 숫자(유지될 숫자의 바로 오른쪽 숫자)가 5보다 작으면 '내림'하고 유지되는 숫자를 그대로 두고, 5보다 크면 '반올림'하고 유지되는 숫자를 1씩 늘린다. 삭제할 숫자가 5이고 숫자의 마지막 숫자이거나 그 뒤에 0만 있는 경우, 반올림 또는 내림 중 더 큰 숫자가 유지되는 숫자의 짝수 값이 되는 쪽에 따라 반올림한다. 삭제된 5 뒤에 0이 아닌 숫자가 오는 경우 반올림한다. (이 규칙의 마지막 부분은 다소 이상하게 느껴질 수 있지만, 이는 신뢰할 수 있는 통계에 근거한 것이며 '5'라는 숫자를 삭제할 때 가능한 두 가지 숫자의 값에 똑같이 가깝기 때문에 편견을 피하기 위한 것이다).

 

다음 예는 몇 가지 다른 숫자를 세 자리 숫자로 반올림할 때 이 규칙을 적용하는 방법을 설명한다.

• 0.028675는 0.0287로 '상향' 반올림한다(삭제된 숫자 7이 5보다 큼).
• 18.3384는 18.3으로 '하향' 반올림한다(삭제된 숫자 3이 5보다 작음).
• 6.8752는 6.88로 올림한다(삭제된 숫자는 5이고 그 뒤에 0이 아닌 숫자가 따름).
• 92.85는 92.8로 내림한다(삭제된 숫자는 5이고 유지된 숫자는 짝수임).

 

정확도와 정밀도

과학자들은 일반적으로 결과의 품질을 보장하고 결과의 정밀도와 정확도를 평가하기 위해 수량을 반복적으로 측정한다. 같은 방식으로 반복해서 측정했을 때 매우 유사한 결과가 나오면 측정이 정확하다고 한다. 측정값이 실제 또는 허용된 값에 매우 근접한 결과를 산출하면 정확한 것으로 간주한다. 정확한 값은 서로 일치하고, 정확한 값은 실제 값과 일치한다. 이러한 특성화는 양궁 경기 결과와 같은 상황으로 확장할 수 있다.

(a) 이 화살은 과녁과 과녁에 모두 가깝기 때문에 정확하고 정밀하다. (b) 이 화살표는 서로 가깝지만 과녁에 있지 않으므로 정밀하지만 정확하지는 않다. (c) 이 화살표들은 과녁에 있지도 않고 서로 가깝지도 않으므로 정확하지도 않고 정밀하지도 않다.

 

제약 회사의 품질 관리 화학자가 기침 시럽 10온스(296mL)를 저장 병에 주입하는 세 가지 기구의 정확도와 정밀도를 검사하는 임무를 맡았다고 가정해 보자. 그녀는 각 기구를 사용하여 5개의 병을 채운 다음 실제 조제된 양을 신중하게 결정하여 다음 표로 정리된 결과를 얻는다.

기구 #1	기구 #2	기구 #3
283.3	298.3	296.1
284.1	294.2	295.9
283.9	296.0	296.1
284.0	297.8	296.0
284.1	293.9	296.1

 

이러한 결과를 고려할 때 디스펜서 #1은 정밀하지만(값이 모두 10밀리리터 이내로 서로 비슷함) 정확하지 않다고 기록한다(어떤 값도 목표 값인 296mL에 가깝지 않고, 각각 10mL 이상 너무 낮음). 디스펜서 2의 결과는 정확도는 향상되었지만(각 부피가 296mL에서 3mL 미만 차이) 정밀도는 떨어진다(부피가 4mL 이상 차이가 난다). 마지막으로 디스펜서 #3이 잘 작동하여 기침 시럽을 정확하게(모든 용량이 목표 용량의 0.1mL 이내), 정밀하게(용량이 서로 0.2mL 이상 차이 나지 않음) 분배하고 있다고 보고할 수 있다.