13강 / 20강

붓스트랩 — 신뢰구간을 손으로 만든다

가진 자료를 모집단인 셈 치고 다시 뽑는다

12강이 검정을 손으로 만들었다면, 이번엔 구간을 손으로 만듭니다.

4강에서 표본분포는 "되풀이했다면 이랬을 것" 이라는 상상이라고 했습니다. 문제는 되풀이할 수 없다는 것이었죠 — 자료는 한 벌뿐이니까요.

붓스트랩의 발상은 뻔뻔합니다. 가진 자료를 모집단인 셈 치고 거기서 다시 뽑습니다.

원래 자료 (n=566)          →  중앙값 6.683
  거기서 566개를 복원추출  →  중앙값 6.71
  또 566개를 복원추출      →  중앙값 6.55
  또                       →  중앙값 6.80
  ... 10,000 번

이 10,000개 중앙값이 흩어진 모양 = 중앙값의 표본분포
그 가운데 95% 를 잘라내면 = 신뢰구간

복원추출이 핵심입니다 — 같은 값이 두 번 뽑히고 어떤 값은 안 뽑힙니다. 그 들쭉날쭉함이 "다시 뽑았다면" 을 흉내 냅니다.

고등학생가진 자료를 모집단인 셈 치기

4강에서 표본분포는 "되풀이했다면 이랬을 것" 이라는 상상이라고 했습니다. 문제는 되풀이할 수 없다는 것이었죠.

붓스트랩의 발상은 뻔뻔합니다 —
가진 자료를 모집단인 셈 치고 거기서 다시 뽑는다

순서

원래 자료가 566개다 → 중앙값 6.683
거기서 566개를 복원추출 → 중앙값 6.71
또 566개 복원추출 → 6.55
… 10,000번
이 10,000개가 흩어진 모양 = 중앙값의 표본분포
가운데 95% 를 자르면 = 신뢰구간

'복원추출' 이 핵심입니다

뽑은 것을 도로 넣고 다시 뽑는다

그래서 같은 값이 두 번 뽑히고, 어떤 값은 안 뽑힙니다. 그 들쭉날쭉함이 "다시 뽑았다면" 을 흉내 내요.

복원 없이 뽑으면?

566개에서 566개를 복원 없이 뽑으면 원래 자료 그대로가 나옵니다. 아무 변화가 없어요.

복원이 있어야 변동이 생깁니다. 그 변동이 표본을 다시 뽑았을 때의 변동을 흉내 내는 거예요.

'부트스트랩' 이라는 이름의 뜻

영어 관용구 "자기 신발끈을 잡아당겨 몸을 들어올린다" 에서 왔습니다. 불가능해 보이는 일이라는 뜻이에요.

실제로 없는 정보를 만들어 내는 것처럼 보이죠. 그런데 됩니다. 다음 note 에서 왜 되는지를 봅니다.

공식이 있는 경우(평균)에 <b>공식과 같은 답</b>을 냅니다. 그래서 공식이 없는 경우도 믿습니다.

Python 브라우저에서 실행

# 중앙값의 신뢰구간 - 공식이 없는 통계량도 구간을 만들 수 있다
import numpy as np
rng = np.random.default_rng(91)

# /tmb 의 LUAD 분포를 닮은 자료를 만든다 (중앙값 ~6.7, 오른쪽 꼬리)
data = rng.lognormal(np.log(6.7), 1.0, 566)
print(f"자료 {len(data)}개 · 중앙값 {np.median(data):.3f} · 평균 {data.mean():.3f}")
print()

for B in [200, 2000, 20000]:
    meds = np.array([np.median(rng.choice(data, len(data), replace=True)) for _ in range(B)])
    lo, hi = np.percentile(meds, [2.5, 97.5])
    print(f"  붓스트랩 {B:6d}번  중앙값 95% CI  [{lo:.3f}, {hi:.3f}]  폭 {hi-lo:.3f}")

print()
print("평균의 표준오차에는 s/sqrt(n) 이라는 공식이 있다.")
print("중앙값에는 그런 간단한 공식이 없다 - 그런데 붓스트랩은 똑같이 해 준다.")
print()
# 되는지 확인 - 평균으로 해서 공식과 견준다
means = np.array([rng.choice(data, len(data), replace=True).mean() for _ in range(20000)])
print(f"평균의 붓스트랩 SE {means.std(ddof=1):.4f}")
print(f"평균의 공식 SE     {data.std(ddof=1)/np.sqrt(len(data)):.4f}   <- 거의 같다")

고등학생공식이 있는 경우에 공식과 같은 답을 냅니다

12강의 그 검증이 여기서도 나옵니다.

평균처럼 공식이 있는 경우에 공식과 같은 답을 낸다

그래서 공식이 없는 경우도 믿습니다

평균의 신뢰구간은 공식이 있습니다 — 평균 ± t × SE. 그런데 중앙값은? 90번째 백분위수는? 공식이 없거나 아주 복잡해요.

통계량	공식	붓스트랩
평균	있다	된다
중앙값	복잡하다	된다
90번째 백분위수	사실상 없다	된다
두 중앙값의 비	없다	된다

붓스트랩은 거의 무엇에나 신뢰구간을 붙일 수 있다

퀴즈가 이걸 묻습니다 — 90번째 백분위수에 신뢰구간을 붙이려면? 답은 붓스트랩입니다.

비유 — 만능 도구

드라이버는 나사에만 씁니다. 스패너는 볼트에만 쓰고요. 그런데 3D 프린터가 있으면 필요한 도구를 그때그때 만들 수 있죠.

붓스트랩이 그렇습니다. 통계량마다 공식을 찾는 대신 그때그때 분포를 만들어 씁니다.

계산이 오래 걸리는 게 유일한 대가입니다

10,000번 다시 뽑아야 하니까요. 그런데 요즘 컴퓨터로는 몇 초입니다.

1980년대에는 불가능했던 방법이 지금은 기본이다

통계학의 많은 공식이 계산이 비싸던 시절에 만들어졌습니다. 지금은 그냥 해 보면 되는 것이 많아요.

고등학생되는 이유와 안 되는 경우

note 가 붓스트랩의 한계를 정직하게 적습니다.

되는 이유

표본이 모집단을 웬만큼 닮았다면,
표본에서 다시 뽑는 것이 모집단에서 다시 뽑는 것을 흉내 낼 수 있다

이 문장에 "닮았다면" 이 들어 있죠. 그게 가정이고, 그 가정이 깨지면 안 됩니다.

안 되는 경우 셋

언제	왜
① n 이 아주 작을 때	표본이 모집단을 못 닮았다. 흉내 낼 원본이 나쁘다
② 극단 통계량	최댓값 · 최솟값 — 구조적으로 안 된다
③ 구조를 무시할 때	12강의 그 문제 — 짝·군집을 무시하면 틀린다

②가 재미있습니다

붓스트랩 표본의 최댓값은 원래 자료의 최댓값을 넘을 수 없다

당연하죠 — 원래 자료에서 뽑으니까요. 그러면 신뢰구간이 한쪽으로 막힙니다.

실제 모집단에는 더 큰 값이 있을 수 있는데, 붓스트랩은 그걸 절대 만들어 내지 못합니다.

붓스트랩은 없는 값을 만들지 못한다 — 있는 값을 재배열할 뿐

비유 — 사진을 확대하기

저해상도 사진을 확대해도 없던 세부가 생기지 않습니다. 있는 픽셀을 늘려 놓을 뿐이죠.

붓스트랩도 정보를 늘리지 않습니다. 가진 정보를 다르게 정리해 불확실성을 보여 줄 뿐이에요.

공짜로 정보가 생기는 방법은 없다

순열과 붓스트랩 — 헷갈리기 쉬운 둘

	순열 (12강)	붓스트랩 (13강)
무엇을 만드나	귀무분포	표본분포
무엇을 얻나	p 값	신뢰구간 · 표준오차
어떻게 뽑나	이름표를 섞는다 (복원 없음)	자료를 복원추출한다
가정하는 것	이름표가 값과 무관하다	표본이 모집단을 닮았다

순열은 "아무 일도 없었다면" 을 만들고, 붓스트랩은 "다시 재었다면" 을 만듭니다. 묻는 것이 다릅니다.

고등학생순열과 붓스트랩 — 헷갈리기 쉬운 둘

본문의 표가 가장 중요한 정리입니다. 둘이 비슷해 보이지만 묻는 것이 다릅니다.

	순열 (12강)	붓스트랩 (13강)
무엇을 만드나	귀무분포	표본분포
무엇을 얻나	p 값	신뢰구간 · 표준오차
어떻게 뽑나	이름표를 섞는다 (복원 없음)	자료를 복원추출
가정	이름표가 값과 무관하다	표본이 모집단을 닮았다

순열은 "아무 일도 없었다면"
붓스트랩은 "다시 재었다면"

한 문장으로 구별하는 법

묻는 것	쓸 것
"이 차이가 우연일 수 있나?"	순열
"이 값이 얼마나 미더운가?"	붓스트랩

비유로 다시

순열 — 시험에서 답안지를 섞어 본다. "누가 어느 답안을 냈든 상관없다면 이 점수 차가 나올까?"
붓스트랩 — 같은 학생들이 다시 시험을 본다면? "우리 반 평균이 얼마나 흔들릴까?"

둘을 함께 쓰기도 합니다

순열로 p 값을, 붓스트랩으로 신뢰구간을 구해 둘 다 보고 하는 것이 요즘의 좋은 관행입니다.

7강에서 봤듯 p 값만으로는 부족하니까요.

🤔 확인 문제

어떤 자료의 90번째 백분위수에 신뢰구간을 붙이고 싶습니다. 간단한 공식은 없습니다. 어떻게 할까요?