[물리학] 측정 도구의 정밀도 및 유효 숫자

측정의 정확도와 정밀도에서 중요한 요소는 측정 도구의 정밀도와 관련이 있다. 일반적으로 정밀한 측정 도구란 아주 작은 단위로 값을 측정할 수 있는 도구를 말한다. 예를 들어 표준 자의 경우 밀리미터 단위로 길이를 측정할 수 있지만 캘리퍼스는 0.01밀리미터 단위로 길이를 측정할 수 있다. 캘리퍼스는 아주 작은 길이를 측정할 수 있어서 더 정밀한 측정 도구이다. 측정 도구가 더 정밀할수록 더 정밀하고 정확한 측정이 가능하다.
 
측정값을 표현할 때 측정 도구로 측정한 숫자만큼만 기록할 수 있다. 예를 들어 표준 자를 사용하여 막대기의 길이를 측정하는 경우 36.7cm로 측정할 수 있다. 측정 도구가 100분의 1센티미터를 측정할 만큼 정밀하지 않기 때문에 이 값을 36.71cm로 표현할 수 없다. 측정값의 마지막 숫자는 측정을 수행하는 사람이 어떤 식으로든 추정했다는 점에 유의해야 한다. 예를 들어, 표준 자로 막대기의 길이를 측정하는 사람은 막대기의 길이가 36.6cm에서 36.7cm 사이인 것을 알고 마지막 자릿수의 값을 추정해야 한다. 유효 숫자를 사용하면 측정값의 마지막 숫자가 불확도가 있는 첫 번째 숫자가 되는 것이 규칙이다. 값의 유효 자릿수를 확인하려면 왼쪽의 첫 번째 측정값부터 시작하여 오른쪽에 기록된 마지막 자릿수까지 자릿수를 센다. 예를 들어, 측정값 36.7cm에는 세 자리, 즉 유효 자릿수가 있다. 유효 숫자는 값을 측정하는 데 사용된 측정 도구의 정밀도를 나타낸다.
 
중요한 숫자를 계산할 때는 0을 특별히 고려한다. 0.053의 0은 소수점을 찾는 표시일 뿐이므로 중요하지 않다. 0.053에는 두 개의 유효 숫자가 있다. 10.053의 0은 표시는 아니지만 유효하므로 이 숫자에는 5개의 유효 숫자가 있다. 1300의 0은 숫자를 쓰는 스타일에 따라 중요할 수도 있고 그렇지 않을 수도 있다. 마지막 숫자까지 숫자를 알고 있다는 의미일 수도 있고, 자리만 차지할 수도 있다. 따라서 1300에는 두 자리, 세 자리 또는 네 자리의 유효 숫자가 있을 수 있다. (이러한 모호함을 피하려면 과학적 표기법으로 1300을 써넣는다) 0은 표시 역할만 하는 경우를 제외하고는 의미가 있다.
 
정확도와 정밀도가 다른 측정값을 결합할 때 최종 답의 유효 자릿수는 가장 정밀도가 낮은 측정값의 유효 자릿수보다 크지 않아야 한다. 곱셈과 나눗셈에 대한 규칙과 덧셈과 뺄셈에 대한 규칙은 아래에 설명된 대로 두 가지가 있다.
 
1. 곱셈과 나눗셈의 경우: 결과는 계산에 입력되는 최소 자릿수를 갖는 양과 같은 수의 유효 자릿수를 가져야 한다. 예를 들어 원의 넓이는 $A = \pi r^2$를 사용하여 반지름에서 계산할 수 있다. 반지름이 두 개만 있는 경우(예: $r = 1.2m$) 그 면적에 몇 개의 유효 자릿수가 있는지 살펴보자.
$$ A= \pi r^2 = \left ( 3.1415927 \ldots \right ) \times \left ( 1.2 m \right ) ^2 = 4.5238934 m^2 $$
는 8자리 숫자가 출력되는 계산기를 사용할 때 얻을 수 있는 값이다. 그러나 반경에는 두 개의 유효 숫자만 있어서 계산된 수량이 두 개의 유효 숫자 또는
$$ A = 4.5 m^2 $$
가 8자리 이상이어도 좋다.
 
2. 덧셈과 뺄셈의 경우: 답은 가장 정밀한 측정값보다 소수점 이하 자릿수를 더 이상 포함할 수 없다. 식료품점에서 0.01kg의 정밀도를 가진 저울로 측정한 감자 7.56kg을 구입한다고 가정해 보자. 그런 다음 0.001kg의 정밀도를 가진 저울로 측정한 6.052kg의 감자를 실험실에 가져다 놓는다. 마지막으로 집에 가서 0.1kg 정밀도의 욕실 저울로 측정한 13.7kg의 감자를 추가한다. 이제 몇 킬로그램의 감자를 가지고 있으며, 답에 몇 개의 유의미한 수치가 적절할까? 질량은 간단한 덧셈과 뺄셈으로 구할 수 있다.
$$ 7.56 kg - 6.052 kg +13.7 kg = 15.208kg =15.2kg $$
다음으로 가장 정확도가 낮은 측정값을 확인하면 13.7kg이다. 이 측정값은 소수점 이하 0.1 자리까지 표현되므로 최종 답도 소수점 이하 0.1 자리까지 표현해야 한다. 따라서 답은 소수점 10번째 자리에서 반올림되어 15.2kg이 된다.
 
중요한 숫자
여기서 대부분의 숫자가 세 개의 유효 숫자를 갖는다고 가정하자. 또한 모든 예제에서 일관된 수의 유효 숫자가 사용된다. 예를 들어, 세 자리로 주어진 답은 최소 세 자리 이상의 입력값을 기반으로 한다는 것을 알 수 있다. 입력에 유효 숫자가 더 적으면 답도 유효 숫자가 더 적다. 또한 제시된 상황에 맞는 유효 숫자의 수에 대해서도 주의를 기울인다. 일부 주제, 특히 광학 분야에서 더 정확한 숫자가 필요하며 세 개 이상의 유효 숫자가 사용된다. 마지막으로, 원의 둘레 공식인 $ c = 2 \pi r $의 2와 같이 숫자가 정확한 경우 계산의 유효 자릿수에 영향을 미치지 않는다.
 
가정
물리학자, 기타 과학자 또는 엔지니어는 특정 수량에 대한 근사치 또는 '추정치'를 만들어야 하는 경우가 많다. 특정 목적지까지의 거리는 얼마인가? 주어진 물건의 대략적인 밀도는 얼마인가? 회로에 얼마나 큰 전류가 흐르게 될까? 많은 대략적인 수치는 입력된 수량이 제한된 정확도로만 알려진 공식을 기반으로 한다. 물리학 공부를 통해 다양한 분야에 적용할 수 있는 문제 해결 능력을 키우면 근사치를 구하는 기술도 함께 발전할 수 있다. 이러한 기술은 더욱 정량적으로 사고하고 기꺼이 위험을 감수함으로써 개발할 수 있다. 다른 모든 노력과 마찬가지로 단위와 친숙해질 뿐만 아니라 경험도 도움이 된다. 이러한 근사치를 통해 특정 시나리오나 비현실적인 숫자를 배제할 수 있다. 또한 근사치를 통해 우리는 다른 사람들에게 도전하고 과학적 세계에 대한 접근 방식을 안내받을 수 있다.
 
Access for free at openstax.org

OpenStax | Free Textbooks Online with No Catch