라벨에 500 g이라고 적힌 상자 다섯 개를 재 보니 498, 501, 495, 499, 497 g이었다. 평균은 498 g이다. 라벨이 거짓이라고 말해도 될까? 이 물음에 흔히 쓰던 방법은 "그렇다"고 답한다. 그런데 그 답은 틀렸다. 왜 틀렸는지는 위 그림의 기계가 보여 준다.
양조장의 문제
100여 년 전, 아일랜드 더블린의 기네스 양조장에 윌리엄 고셋이라는 화학자이자 양조 기술자가 있었다. 그는 보리를 기르는 밭과 엿기름, 홉, 실험 양조를 다뤘다. 실험 양조는 한 번에 하루가 걸려서 표본을 많이 모을 수 없었다.
그때 흔히 쓰던 방법은 표본에서 잰 퍼짐을 참 퍼짐인 것처럼 놓고 정규 곡선의 표를 읽는 것이었다. 고셋은 실험 수가 적으면 그 퍼짐부터 믿을 수 없어서 판단이 "아주 잘못될 수 있다"고 썼다. 많은 생물·농업 실험이 그렇게 몇 번밖에 되풀이할 수 없었다.
그는 셈으로 풀기 전에 손으로 먼저 시험했다. 범죄자 3,000명의 키와 왼손 가운뎃손가락 길이를 카드 3,000장에 적어 잘 섞었다. 뽑힌 차례대로 4장씩 묶어 표본 750개를 만들고, 표본마다 값을 셈했다. 통계에서 가장 이른 모의실험 가운데 하나다.
그리고 표본이 작을 때 쓸 표를 만들었다. 표는 표본 10개까지였다. 첫 논문의 예는 환자 10명의 수면제 시험과 보리 시험이었고, 양조장 자료는 싣지 않았다.
논문은 본명 대신 "스튜던트(Student)"라는 이름으로 냈다. 양조장에는 화학자가 논문을 내는 것을 막는 규칙이 있었다. 고셋은 이 결과가 다른 양조장에는 쓸모없다고 설득해 가명으로 내도록 허락받았다고 전한다. 회사도 알고 허락한 일이다. 지금 쓰는 t라는 이름과 꼴은 나중에 통계학자 로널드 피셔가 다듬었다.
어떻게 움직이나 — 표본 뽑는 기계
그림의 기계가 하는 일이 바로 고셋의 카드 실험이다. 왼쪽 위 모집단 상자에 든 공 하나하나가 공장에서 나온 상자 하나를 뜻한다. 무게는 평균 500 g 둘레에 퍼져 있다.
「한 번」을 누르면 국자가 상자를 뽑아 내리막으로 굴려 보낸다. 공은 저울 막대 위 제 무게 자리에 선다. 파란 표본 평균 받침은 공들이 균형을 이루는 곳, 곧 표본 평균으로 미끄러진다. 빨간 점선은 참 평균 500 g이다.
퍼짐 s 괄호는 표본에서 잰 퍼짐(표준 편차) s만큼 평균 양쪽으로 벌어진다. 평균 n개는 값 하나보다 덜 흔들리고, 그 흔들림은 √n분의 1로 준다. 그래서 s를 √n으로 나눈 "평균의 흔들림"(s ÷ √n, 표준 오차)을 자의 한 눈금으로 쓴다. 막대 아래 s÷√n 자가 그것이다.
t는 표본 평균이 참 평균에서 벗어난 거리를 이 자로 잰 값이다. 곧 (표본 평균 − 참 평균) ÷ (s ÷ √n)이다. 수레가 그 t 자리로 가서 구슬 하나를 구슬 칸에 떨어뜨린다. 구슬 하나가 t 하나다.
이 일을 되풀이하면 구슬 칸에 종 모양이 쌓인다. 그 모양이 t-분포다. t-분포는 모집단이 정규 분포이고 모집단의 퍼짐을 모를 때 쓴다. 표본이 n개이면 자유도는 n − 1이다. 칸 위의 실선 t-곡선은 그 모양을 셈으로 그린 것이다. 점선 정규 곡선은 퍼짐을 알고 있는 셈 칠 때 쓰는 곡선이다.
꼬리가 두꺼운 까닭
t가 커지는 길은 둘이다. 평균이 우연히 멀리 떨어질 수도 있고, s가 우연히 아주 작게 재어질 수도 있다. 둘째 길에서는 자의 눈금이 작아져서, 조금 벗어난 평균도 큰 t가 된다. 표본이 작을수록 이런 일이 잦다.
표본이 5개(자유도 4)일 때 s는 참 퍼짐보다 작게 재어지는 때가 약 59%, 절반보다 작게 재어지는 때가 약 9%다. 그래서 t-분포는 정규 분포와 같은 종 모양이지만, 가운데가 낮고 꼬리가 두껍다.
정규 곡선에서 ±1.96 바깥의 넓이는 5%다. t-분포에서는 자유도 4에서 12.2%, 자유도 2에서 18.9%다. 그림에서 「3개」를 누르면 판독값의 "바깥"이 19%, 「5개」를 누르면 13%가 된다(구슬로 뽑아 센 비율이라 셈한 값과 조금 다르다). 붉은 띠를 두른 양 끝의 바깥 칸에 구슬이 그만큼 많이 떨어진다.
표본이 커지면
자유도가 커지면 t-분포는 정규 분포에 다가간다. 「30개」를 누르면 "바깥"이 6%로 줄고, t-곡선이 점선 정규 곡선에 거의 겹친다.
양쪽 5%를 남기는 경계는 자유도 2에서 4.303, 4에서 2.776, 9에서 2.262, 29에서 2.045다. 정규 곡선에서는 1.96이다.
"자유도 30이 넘으면 t는 정규와 거의 같다"는 말은 대략 맞다. 자유도 30에서 경계는 2.042로, 1.96보다 약 4% 넓다. 하지만 컴퓨터는 늘 정확한 t를 셈하므로 바꿔 쓸 까닭이 없다. "n이 30이면 정규 분포 가정이 상관없다"는 다른 말이다. 자료가 한쪽으로 치우치거나 튀는 값이 있으면 틀릴 수 있다.
1,000명 남짓한 여론 조사라면 95% 경계는 t로 1.962, 정규로 1.960이다. t-분포가 차이를 만드는 곳은 표본이 작을 때다.
왜 이렇게 생겼나
퍼짐 s를 셀 때는 편차의 제곱을 n이 아니라 n − 1로 나눈다. 편차(각 값 − 평균)를 모두 더하면 0이라, n − 1개를 알면 마지막 하나는 정해지기 때문이다. n으로 나누면 퍼짐을 늘 조금 작게 잰다.
벗어남을 s ÷ √n으로 재면 어떤 실험이든 같은 자로 잴 수 있다.
두꺼운 꼬리에는 쓸모가 있다. 퍼짐을 표본에서 재는 대가로 경계를 넓히면(자유도 4에서 1.96 대신 2.776), 잘못 놀라는 비율이 다시 정확히 5%가 된다. 두꺼운 꼬리는 적은 자료로 지나치게 확신하지 않게 막아 준다.
다만 t-분포를 쓰려면 값들이 서로 독립이고, 모집단이 대략 정규 분포여야 한다. 튀는 값은 평균과 s를 함께 끌어당겨, 어떤 표본 크기에서도 결과를 흐린다. 그래서 먼저 자료를 그려 본다.
지금 어디에 쓰이나
t-분포는 엑셀(T.TEST), R(t.test), 파이썬(SciPy) 같은 도구에 기본으로 들어 있다. 새 공정이나 새 방법이 지금 것보다 나은지 견줄 때 쓴다. 미국 표준 기관의 안내서는 두 나라 자동차의 연비를 견주는 예를 든다. 온라인 서비스가 두 화면을 견주는 실험(A/B 시험)에도 쓴다. 고셋의 방법은 공업 품질 관리에 쓰인 첫 검정 가운데 하나로 꼽힌다.
처음 물음으로
상자 다섯 개를 손으로 셈해 보자. 무게의 합은 2490이고, 평균은 2490 ÷ 5 = 498이다. 각 값에서 평균을 빼면 0, +3, −3, +1, −1이고, 더하면 0이다. 제곱하면 0, 9, 9, 1, 1이고, 합은 20이다. 20 ÷ 4 = 5이므로 s = √5 ≈ 2.24다. s ÷ √5 = 1이므로 t = (498 − 500) ÷ 1 = −2.00, 자유도 4다. 그림을 처음 열면 저울 막대 위에 이 다섯 개가 있고, s÷√n 자 끝에 "t −2.00"이 적혀 있다.
정규 곡선으로 보면 2.00은 경계 1.96보다 커서 "놀랍다", 곧 라벨이 거짓이라고 말하게 된다. 처음에 말한 흔히 쓰던 방법이 이것이다. 하지만 자유도 4의 경계는 2.776이고, −2.00은 그 안쪽이다. 측정한 퍼짐의 두 배만큼 벗어난 차이가 우연히 나올 비율은 정규 곡선으로는 약 4.6%로 드물다. 표본 10개면 약 7.7%, 표본 4개면 약 14%, 곧 일곱 번에 한 번꼴로 흔하다. 상자 다섯 개만 재 보고 라벨이 거짓이라고 말할 수는 없다.
그렇다면 "놀랍다"의 경계는 누가, 어떻게 정할까? 그 이야기는 t-검정에서 이어진다.
이 그림에 대하여
모집단은 평균 500 g, 퍼짐 3 g의 정규 분포다. 무게는 0.1 g 단위로 반올림했다. 칸은 t 0.5 너비이고, −4보다 작거나 4 이상인 값은 양 끝 칸에 모았다. 칸 높이는 그 칸에 떨어진 비율이라 곡선과 같은 잣대다. 적게 뽑아 한 칸이 칸막이보다 높아지면 칸막이 높이에서 자르고 ▲로 표시했다. 처음 1000번은 미리 뽑아 두었고, 난수는 고정된 씨앗에서 나온다. 새로 고침하면 같은 장면이 나온다. 칸에는 5000번까지 쌓이고, 넘으면 먼저 비운다. 상자 속 공은 모집단의 모양을 39개로 줄여 보인 것이다.