9강 / 20강

섞어서 문턱을 세운다 — 우연이면 얼마나 나오나

귀무분포와 유의수준

8강에서 279개의 MI 값을 얻었습니다. 이제 어디서 자를까를 정해야 합니다.

"0.3 이상"처럼 눈대중으로 정할 수는 없습니다. 6강에서 봤듯이 MI 값은 칸 수와 샘플 수에 따라 통째로 오르내리니까요. 기준을 자료 스스로에게 물어야 합니다.

관계가 정말 없을 때 MI 는 얼마나 나오는가?
거기서 안 나오는 값이면 관계가 있는 것이다.

관계가 없는 자료를 만드는 법

간단합니다. 두 유전자 중 한쪽의 샘플 순서만 섞어 버리면 됩니다. 값의 분포는 그대로인데 짝만 흐트러지므로, 관계는 사라지고 나머지 조건은 똑같습니다.

고등학생우연이면 얼마나 나오나

MI 값을 얻었다. 그런데 얼마나 커야 의미 있나?

기준선을 만들어야 한다

"관계가 없을 때 MI 가 얼마나 나오나" 를 알면 그것보다 큰 것만 남기면 된다.

어떻게 만드나 — 섞는다

단계	하는 일
1	한 유전자의 값을 샘플 사이에서 섞음
2	MI 를 다시 계산
3	수천 번 반복
4	그 분포가 귀무분포

기준선은 관찰하는 것이 아니라 자료를 섞어서 만들어 내는 것이다

섞을 때마다 값이 조금씩 다릅니다. 그 흔들림의 전체 모습이 바로 귀무분포입니다.

Python 브라우저에서 실행

# 짝을 섞으면 관계가 사라지는 것을 눈으로 봅니다.
import numpy as np
from arac import load_expr, rank_transform, mi_bins

genes, X, samples = load_expr("arac_expr.bin")
U = rank_transform(X); ix = {n: i for i, n in enumerate(genes)}
rng = np.random.default_rng(0)

u, v = U[ix["DDX54"]], U[ix["MYC"]]
print("원래         MI =", round(mi_bins(u, v, 7), 4))
for k in range(3):
    print(f"{k+1}번째 섞기   MI =", round(mi_bins(u, rng.permutation(v), 7), 4))

print()
print("섞으면 0.1 언저리로 뚝 떨어집니다. 하지만 0 은 아닙니다 —")
print("5강에서 본 표본 편향이 그대로 남아 있기 때문입니다.")

고등학생섞으면 관계가 사라진다

왜 섞는 것이 "관계 없음" 을 만드나?

짝을 깨뜨리기 때문이다

	원래	섞은 뒤
샘플1	(A=3, B=5)	(A=3, B=2)
샘플2	(A=1, B=2)	(A=1, B=5)

각 유전자의 값 분포는 그대로 인데 짝 이 무작위가 되었다.

이것이 중요하다

분포는 유지하고 관계만 없앴다. 그러니 분포 때문에 생기는 MI 편향 도 함께 들어간다.

5강의 편향 문제가 여기서 자동으로 해결된다 — 편향이 기준선에도 들어가니까

귀무분포는 유전자마다 다르지 않습니다 — 순위 변환을 했기 때문에 모두 같은 균등분포거든요. 그래서 한 번만 뽑으면 됩니다.

Python 브라우저에서 실행

# 귀무분포를 2000번 뽑아 봅니다. (몇 초 걸립니다)
import numpy as np
from arac import load_expr, rank_transform, mi_bins

genes, X, samples = load_expr("arac_expr.bin")
U = rank_transform(X)
rng = np.random.default_rng(1)
base = U[0]
n = U.shape[1]

null = np.array([mi_bins(base, base[rng.permutation(n)], 7) for _ in range(2000)])

print("귀무분포 2000개")
print("  평균     ", round(float(null.mean()), 4))
print("  표준편차 ", round(float(null.std()), 4))
print("  최소/최대", round(float(null.min()), 4), "/", round(float(null.max()), 4))
print()
for a in [0.05, 0.01, 0.005, 0.001]:
    print(f"  α = {a:<6} → 문턱 {np.quantile(null, 1 - a):.4f}")

🎮 문턱을 옮겨 보기

히스토그램이 귀무분포입니다. α 를 바꾸면 문턱(주황 선)이 움직이고, 그에 따라 몇 개의 간선이 살아남는지와 그중 진짜가 몇 개인지가 함께 바뀝니다.

고등학생문턱을 어디에 두나

방식	내용
p 값 문턱	귀무분포의 상위 5% 등
FDR 보정	다중검정을 고려
본페로니	매우 엄격

쌍이 수백만이면 다중검정이 심각하다

300만 쌍을 p < 0.05 로 검정하면 15만 쌍이 우연히 통과한다.

그러니 훨씬 엄격한 문턱이 필요하다.

ARACNe 의 관행

보통 p < 10⁻⁸ 같은 아주 작은 값을 쓴다. 쌍의 수를 고려한 것이다.

검정 수가 많으면 문턱도 그만큼 엄격해야 한다

α 를 조이면 가짜가 줄지만 진짜도 놓치기 시작합니다. α = 0.001 이 이 자료에서는 좋은 자리입니다.

Python 브라우저에서 실행

# 문턱을 적용해서 간선을 골라내고 채점해 봅니다.
import numpy as np
from arac import (load_expr, rank_transform, mi_bins, candidate_pairs,
                  null_mi, score, true_edges, TFS)

genes, X, samples = load_expr("arac_expr.bin")
U = rank_transform(X); ix = {n: i for i, n in enumerate(genes)}
truth = set(true_edges())

mi = {e: mi_bins(U[ix[e[0]]], U[ix[e[1]]], 7) for e in candidate_pairs(genes, TFS)}
null = null_mi(U, n_perm=2000, bins=7, seed=1)

print(f"{'α':>8}{'문턱':>9}{'간선':>7}{'진짜':>6}{'가짜':>6}{'놓침':>6}{'정밀도':>8}{'재현율':>8}")
for a in [0.2, 0.05, 0.01, 0.001, 0.0001]:
    thr = float(np.quantile(null, 1 - a))
    kept = {e for e, v in mi.items() if v > thr}
    s = score(kept, truth)
    print(f"{a:>8}{thr:>9.3f}{s['n']:>7}{s['tp']:>6}{s['fp']:>6}{s['fn']:>6}"
          f"{s['precision']:>8.3f}{s['recall']:>8.3f}")

섞기를 몇 번 해야 하나

α = 0.001 짜리 문턱을 2000번 섞기로 정하는 것은 사실 아슬아슬합니다. 0.999 분위수를 잡으려면 위쪽 2개의 값에 기대는 셈이거든요. 어림잡아 섞기 횟수 ≫ 1/α 여야 합니다.

실제 ARACNe-AP 는 두 가지로 해결합니다.

많이 섞는다 — 백만 번 이상 (자바로 멀티스레드니까 가능합니다)
꼬리를 함수로 맞춘다 — 상위 10%에 지수함수를 맞춰 놓고 α = 10⁻⁶ 같은 곳까지 외삽합니다

MI 의 귀무 꼬리가 지수분포에 가깝다는 사실을 이용합니다. ARACNe-AP 가 실제로 쓰는 요령입니다.

Python 브라우저에서 실행

# 꼬리 맞춤(tail fitting) — 적게 섞고도 먼 꼬리를 추정하는 요령.
import numpy as np
from arac import load_expr, rank_transform, null_mi

genes, X, samples = load_expr("arac_expr.bin")
U = rank_transform(X)
null = null_mi(U, n_perm=2000, bins=7, seed=1)

cut = float(np.quantile(null, 0.90))       # 상위 10% 만 쓴다
tail = null[null > cut] - cut               # 문턱 넘은 만큼
lam = 1.0 / tail.mean()                     # 지수분포의 비율 모수

def thr_fit(alpha):
    return cut - np.log(alpha / 0.10) / lam

print(f"상위 10% 시작점 {cut:.4f},  꼬리 기울기 λ = {lam:.1f}")
print()
print(f"{'α':>10}{'섞어서 직접':>14}{'꼬리 맞춤':>12}")
for a in [0.01, 0.001, 0.0001, 1e-6]:
    emp = np.quantile(null, 1 - a) if a >= 1 / len(null) else float("nan")
    e = f"{emp:.4f}" if emp == emp else "못 구함"
    print(f"{a:>10}{e:>14}{thr_fit(a):>12.4f}")

print()
print("2000번밖에 안 섞었는데도 α = 10⁻⁶ 짜리 문턱을 추정할 수 있습니다.")

고등학생51개 중 15개가 가짜

문턱을 통과한 51개 간선 중 15개가 가짜 였다고 하자.

어떻게 알았나

실습에서는 정답을 아는 인공 자료 를 쓴다. 그러니 채점할 수 있다.

	개수
남은 간선	51
진짜	36
가짜	15

그런데 그 가짜들이 특별하다

대부분 우연이 아니라 간접 연결 이다. A→B→C 에서 A–C 가 잡힌 것.

그것을 지우는 것이 10강의 DPI 다.

문턱을 넘었다고 직접 연결인 것은 아니다 — 간접 연결도 MI 가 크다

🤔 확인 문제

귀무분포를 만들 때 한쪽 벡터의 순서만 섞는 이유는?

🤔 확인 문제

α = 0.001 인 문턱을 쓰면서 후보 쌍 279개를 검사했습니다. 우연히 넘는 쌍은 평균 몇 개일까요?

🤔 확인 문제

α 를 극단적으로 조였는데도 가짜 간선 15개가 남았습니다. 이 15개의 정체는?