2026년 9월 30일 · 용티IYPT 1988 · 문제 5 · 열·상전이

1 mm 눈금으로 어디까지 — 강철 자의 정밀도

V2 공개자료 교차확인 — 둘 이상의 독립된 자료로 확인

탐구 주제

IYPT 1988 문제 5 ‘Metrology’에 관한 원리 해설과 탐구 설계입니다.

IYPT 1988 공식 문제 보기

교육과정 연결

중학교 과학 「물질의 특성」(밀도 — 질량과 부피의 측정) / 고등학교 통합과학1 「과학의 기초」(기본량과 단위, 측정과 어림, 측정 표준) / 과학탐구실험1·2 (측정과 오차, 변인 통제, 데이터의 해석과 논증 — 이 편의 본령) / 물리학 「힘과 운동」(실험 데이터의 처리와 유효숫자) (2022 개정 교육과정, 단원 코드는 NCIC에서 최종 확인).

핵심 개념

측정학(metrology), 참값, 정확도, 정밀도, 계통 오차, 무작위 오차, 반복성, 재현성, 표준편차, 측정 불확도, 표준 불확도, A형·B형 평가, 직사각형 분포, 합성 표준 불확도, 확장 불확도, 오차 예산, 유효숫자, 눈금 간격, 분해능, 보간, 시차(parallax), 아베 원리, 열팽창 계수, 표준 기준 온도(20 ℃), 최대 허용 오차(MPE), 정확도 등급, 교정, 소급성

원리 살펴보기

눈금이 1 mm니까 강철 자의 정밀도도 1 mm — 정말 그럴까? 이 통념은 양쪽에서 동시에 무너진다. 한쪽에서는 눈금 사이를 눈대중으로 나눠 읽을 수 있으니 1 mm보다 잘 잴 수 있고, 다른 쪽에서는 눈금 자체가 제자리에서 밀려 있을 수 있으니 1 mm보다 못 잴 수도 있다. 국제법정계량기구(OIML)가 자의 정확도 등급을 정해 둔 규격을 보면, 1 m짜리 자가 등급 II라면 눈금의 위치가 0.5 mm까지 어긋나 있어도 합격이다 — 가장 고운 눈금 간격의 절반을 통째로 틀려도 규격 안이라는 뜻이다. 그러니 이 문제는 자를 믿는 문제가 아니라 자를 의심하고, 그 의심의 크기를 숫자로 바꾸는 문제다. 측정학(metrology)은 여기서 시작한다.

그래서 정확도(accuracy)와 정밀도(precision)를 갈라야 한다. 과녁에 쏜 화살이 한곳에 촘촘히 모였으면 정밀한 것이고, 그 뭉치가 정중앙에 얹혀 있으면 정확한 것이다. 같은 길이를 스무 번 재어 표준편차를 구하면 그것은 정밀도, 곧 흩어짐의 크기다. 그런데 자의 눈금이 통째로 0.3 mm 밀려 있다면 스무 번을 재든 백 번을 재든 그 0.3 mm는 표준편차에 조금도 나타나지 않는다. 반복하면 드러나는 오차(무작위 오차)와 반복해도 끝까지 숨는 오차(계통 오차)는 서로 다른 방법으로만 잡힌다. 앞의 것은 여러 번 재서 잡고, 뒤의 것은 더 좋은 기준기에 대 보아야 잡힌다. 정밀도를 아무리 끌어올려도 정확도는 저절로 따라오지 않는다.

정밀도를 갉아먹는 요인은 하나씩 떼어 낼 수 있다 — 눈금 사이를 나눠 읽는 보간, 눈이 비스듬히 내려다볼 때 생기는 시차, 자 자체의 눈금 오차, 온도에 따른 열팽창, 자와 대상이 한 직선에 놓이지 않아 생기는 어긋남(아베 원리), 닳아 버린 0 끝단. 이 요인들을 하나씩 재어 표로 세우는 일을 오차 예산(error budget)이라 하며, 이것이 이 문제가 요구하는 답의 형식이다. 같은 일이 실험실 밖에서도 그대로 벌어진다. 정밀 가공·품질 검사에서는 측정 불확도가 도면 공차를 잡아먹으면 합격·불합격 판정 자체가 흔들리고, 법정계량에서는 시장의 자와 줄자가 등급을 지키는지 국가가 검정해 거래의 공정을 지킨다. 국가측정표준과 소급성은 학교의 자 한 자루를 상위 기준기의 사슬로 이어 미터의 정의까지 연결하고, 반도체·정밀 광학은 여기 나온 요인들을 극한까지 통제해 nm 단위의 길이를 다룬다.

실험 설계

준비물

강철 자 여러 자루(학교에 있는 30 cm 자를 되도록 여러 개), 길이를 잴 대상 몇 개(끝면이 매끈하고 잘 변하지 않는 금속 블록·유리판·두꺼운 판재), 버니어 캘리퍼스와 마이크로미터(상위 기준기), 온도계, 확대경 또는 스마트폰 접사(저배율 실체현미경이 있으면 더 좋다), 평평한 작업면과 클램프, 밝고 일정한 조명, 기록지.

변인

독립변인은 정밀도를 갉아먹는다고 의심되는 요인을 한 번에 하나씩만 바꾼 측정 조건이다 — 자를 눕히는가 모로 세우는가(시차), 맨눈인가 확대해 읽는가(보간), 0 끝을 대는가 10 mm부터 재는가(끝단 마모), 어느 자를 쓰는가(개체의 눈금 오차), 자의 온도는 몇 도인가(열팽창). 종속변인은 두 갈래로 나눠 잡는다 — 반복 측정값의 표준편차(정밀도)와, 기준값에서 평균이 떨어진 거리(계통 오차). 통제변인은 측정 대상, 관찰자와 눈의 위치, 조명, 자와 대상의 정렬, 측정 순서이다.

실험 순서

  1. 대상의 길이를 마이크로미터(없으면 캘리퍼스)로 여러 번 재어 기준값으로 삼고, 그때의 온도를 함께 적는다. 기준값이 있어야 정밀도와 정확도를 따로 볼 수 있다.

  2. 가장 평범한 조건에서 강철 자로 같은 대상을 20회 반복 측정한다. 매번 자를 떼었다 다시 놓고, 앞서 적은 값을 보지 않은 채 기록한다(앞 값에 끌려가는 편향 방지). 표준편차로 정밀도를, 평균과 기준값의 차이로 계통 오차를 구해 둘이 서로 다른 양임을 확인한다.

  3. 요인을 하나씩만 바꿔 ②를 되풀이한다 — 모로 세워 눈금 붙이기(시차), 확대경으로 읽기(보간), 0 끝 대신 10 mm부터 재고 빼기(끝단 마모). 조건마다 표준편차와 계통 오차가 어떻게 달라지는지 모은다.

  4. 같은 대상을 자 여러 자루로 20회씩 잰다. 이어서 두 자를 눈금끼리 맞대어 겹쳐 놓고 확대해 훑으며, 구간마다 눈금이 얼마나 어긋나는지 살핀다.

  5. 자의 온도를 재고 열팽창의 기여를 αLΔT로 계산해 다른 요인과 견준다(기준 온도 20 ℃, α는 탄소강이 대략 12×10⁻⁶ /℃·스테인리스강이 16~17×10⁻⁶ /℃이니 재질을 먼저 확인한다).

  6. 요인마다 표준 불확도를 구해 오차 예산 표로 모은다. 등급·분해능처럼 폭만 아는 항은 반폭을 √3으로 나누고, 반복 측정 항은 표준편차를 쓴다(결과를 한 번 읽은 값으로 보고하면 표준편차 그대로, n회 평균으로 보고하면 √n으로 나눈 값을 쓴다). 모두 제곱해 더한 뒤 제곱근을 취해 합성하고, 2를 곱해 확장 불확도로 보고한다.

안전 안내

⚠ 안전

위험이 큰 실험은 아니지만 강철 자의 모서리와 끝은 날카로워 베이기 쉽다. 자를 모로 세우거나 밀 때 손날이 모서리를 훑지 않게 하고, 끝이 휘거나 버가 일어난 자는 장갑을 끼고 다루거나 아예 쓰지 않는다. 유리판·금속 블록은 떨어뜨리면 깨지거나 발등을 다칠 수 있으니 작업면 안쪽에 받쳐 둔다. 자를 데워 보는 경우에는 뜨거운 바람과 달궈진 금속에 화상을 입지 않도록 하고, 물에 담갔다면 물기를 완전히 닦아 녹을 막는다.

예상과 해석

먼저 예상해 보기

같은 길이를 스무 번 재어 표준편차가 0.1 mm로 나왔다면, 그 자로 잰 길이가 참값에서 0.1 mm 안쪽에 있다고 말해도 될까?

자료 정리

조건마다 반복 측정값을 표로 모아 평균과 표준편차를 구한다. 가로축을 측정 조건, 세로축을 표준편차로 놓은 막대그림을 그리면 어느 요인이 흩어짐을 얼마나 줄였는지 보인다. 같은 그림에 각 조건의 계통 오차(평균과 기준값의 차이)를 다른 색 막대로 세우면, 흩어짐이 줄어도 치우침은 남는 경우가 드러난다. (수치는 실제 측정으로 채운다 — 여기서는 축과 개형만 제시한다.)

결과의 의미

요인을 하나씩 통제할수록 반복 측정의 표준편차는 줄어들 것으로 예상된다 — 자를 모로 세우고, 확대해 읽고, 닳은 0 끝을 피하면 흩어짐이 작아진다. 그러나 표준편차가 작아진다고 평균이 기준값 쪽으로 다가간다는 보장은 없다. 특히 자를 다른 자루로 바꾸는 순간 평균이 껑충 뛴다면, 그것이 반복으로는 끝내 드러나지 않던 눈금 오차다. 한편 30 cm 자에서 실온이 몇 도 오르내려 생기는 열팽창은 수~수십 µm이라 오차 예산의 맨 아래로 밀려날 가능성이 크다 — 교과서가 늘 앞세우는 열팽창이 정작 이 자에서는 주인공이 아닐 수 있다는 사실을 오차 예산이 스스로 알려 주는 셈이다. 그래서 이 문제의 답은 하나의 숫자일 수 없다. 최대 정밀도는 자의 등급과 읽는 방법, 온도, 무엇을 정밀도라 부르기로 했는지에 따라 달라지는 조건부의 답이며, 그 조건을 숫자로 적는 일이 곧 측정 불확도다.

더 탐구하기

  1. 두 자를 겹쳐 훑어 얻은 구간별 어긋남을 이어 두 자의 ‘상대 눈금 오차 곡선’을 그려, 어긋남이 길이에 비례해 쌓이는지 특정 구간에서만 튀는지 보자. 다만 이 곡선은 두 자의 차이만 보여 준다 — 둘이 똑같이 틀렸다면 어긋남은 0이다. 한 자루의 절대 오차 곡선은 교정된 기준자에 대 보아야 얻는다.

  2. 1 m 강철 자 두 자루를 겹쳐 놓고 한쪽만 20 ℃쯤 데운 뒤, 먼 쪽 끝의 눈금이 벌어지는 정도를 확대해 보고 αLΔT로 계산한 예상값과 견줘 보자(1 m·20 ℃면 0.2 mm 남짓 — 30 cm 자에서 숨어 있던 열팽창이 여기서는 눈에 보인다).

  3. 여러 사람이 같은 대상을 각자 읽게 해, 사람 사이의 산포(재현성)가 한 사람의 반복 산포(반복성)보다 얼마나 큰지 견줘 보자.

  4. 스마트폰 접사로 눈금과 대상의 끝을 한 장에 담아 픽셀 단위로 읽어, 정밀도가 어디까지 올라가고 눈금선의 굵기와 가장자리 거칠기가 새 한계로 떠오르는지 살펴보자.

연결 주제

IYPT 2000 문제 1 ‘나만의 잔물결 장력계’ — 원문이 아예 “그 방법의 정확도를 어림하라”고 요구하므로 여기서 세운 오차 예산을 그대로 쓸 수 있다. IYPT 2004 문제 1 ‘안개 방울 측정기’는 잴 수 있는 가장 작은 크기가 무엇으로 정해지는지 묻는 점에서 같은 물음을 공유한다. 길이를 재는 모든 편에서 반복 측정·상위 기준기 대조·불확도 합성이 되풀이된다.

참고문헌

[학생] D. R. Flack & J. Hannaford, 『Fundamental Good Practice in Dimensional Metrology』, Measurement Good Practice Guide No. 80, 영국 국립물리연구소(NPL), 2006 (무료 공개 PDF; 정확도·정밀도의 구분부터 시차·아베 오프셋·열팽창까지 오차 원인을 풀어 놓은 이 원고의 뼈대. “자를 모로 세우면 시차를 피한다”·“자의 0 끝은 닳는다”가 실험 ③의 근거) / 국제법정계량기구(OIML), 『R 35-1: Material measures of length for general use. Part 1: Metrological and technical requirements』, 2007(E) 및 Amendment 2014 (oiml.org 무료 공개; 자를 정확도 등급 I·II·III으로 나누고 최대 허용 오차를 (a+bL) mm로 규정 — 계수는 I이 a=0.1·b=0.1, II가 a=0.3·b=0.2, III이 a=0.6·b=0.4이고, L을 m 단위로 올림하므로 30 cm 자도 1 m 자와 같은 허용치를 받는다) / JCGM, 『JCGM 200:2012 International vocabulary of metrology (VIM)』 3판 (bipm.org 무료 공개; 정확도·진도·정밀도의 국제 표준 정의) / 영상 검색어 “parallax error measurement”, “measurement uncertainty budget”. [심화] JCGM, 『JCGM 100:2008 Evaluation of measurement data — Guide to the expression of uncertainty in measurement』 (bipm.org 무료 공개; 표준·합성·확장 불확도의 원전, 직사각형 분포의 반폭/√3) · ISO, 『ISO 1:2022 Geometrical product specifications (GPS) — Standard reference temperature…』 4판 (기준 온도를 20 ℃(ITS-90)로 고정) · T. Doiron(미국 NIST), “Uncertainties Related to Thermal Expansion in Dimensional Metrology,” NCSLI Measure, Paper 011-2006 (emtoolbox.nist.gov 공개; 게이지 블록용 강철의 열팽창 계수 11.5×10⁻⁶ /℃·공차 ±1×10⁻⁶ /℃) · J. A. Torres Ferrer & G. L. Harris(편), 『Selected Laboratory and Measurement Practices and Procedures for Length Calibrations (2014 Ed)』, NISTIR 8028, NIST, 2014 (DOI 10.6028/NIST.IR.8028; 무료 공개). 수록된 SOP No. 10 ‘Calibration of Rigid Rules’는 기준자와 비교하는 절차에서 “최적 조건의 교정 불확도 0.002 in(약 50 µm)”를 제시한다 — 이 문제가 묻는 ‘최대 정밀도’의 전문가판 대답 · M. L. Hu, L. N. Ayton, J. K. Jolly, “The Clinical Use of Vernier Acuity: Resolution of the Visual Cortex Is More Than Meets the Eye,” Frontiers in Neuroscience 15, 714843, 2021 (DOI 10.3389/fnins.2021.714843; 어긋남을 알아채는 문턱값 2~5초는 중심오목 원뿔세포 간격(2.5 µm≈30초)보다 곱아 25 cm에서 약 6 µm — 눈금을 1/10로 나눠 읽기는 눈의 한계보다 한참 위다). ※ 문헌은 등급별 허용 오차·전문 교정 절차·열팽창 처리를 든든히 덮지만, 정작 학교의 30 cm 자가 어느 등급인지, 어떤 재질인지는 표시가 없어 알 수 없다 — 특히 11.5×10⁻⁶ /℃는 게이지 블록용 탄소강 값이고 학교 자는 스테인리스강(약 16~17×10⁻⁶ /℃)인 경우가 많다. 맨눈 보간의 관행(1/10인지 1/2인지)과, 확대·촬영으로 어디까지 내려가 무엇이 새 한계가 되는지를 학교 조건에서 실측 검증한 문헌은 찾기 어렵다 — 이 탐구의 개방 지점이다.

X스레드

이어서 읽기