2강 / 20강

네 가지 일 — 분류 · 회귀 · 군집 · 차원 축소

정답이 있느냐 없느냐가 먼저다

기계학습이라는 말이 너무 넓어서, 먼저 네 칸으로 갈라 두면 편합니다.

🏷️

분류

칸을 맞힌다 — 정답 있음

📈

회귀

수를 맞힌다 — 정답 있음

🫧

군집

무리를 나눈다 — 정답 없음

🗜️

차원 축소

축을 줄인다 — 정답 없음

위 둘을 지도학습, 아래 둘을 비지도학습 이라고 합니다. 이름보다 중요한 것은 채점할 수 있느냐 입니다.

고등학생정답이 있느냐가 먼저다

기계학습의 문제는 먼저 두 갈래로 나뉩니다.

구분	정답(라벨)이	하는 일
지도학습	있다	분류 · 회귀
비지도학습	없다	군집 · 차원 축소

정답이 있으면 채점할 수 있다 — 없으면 못 한다

이 차이가 결정적입니다

	지도	비지도
맞았는지	확인된다	모른다
비교	점수로	주관적
과적합 판정	가능	어렵다

15강에서 이 어려움을 정면으로 다룬다

비유 — 시험과 정리

일	비유
지도학습	답이 있는 시험 — 몇 점인지 안다
비지도학습	서랍 정리 — 잘했는지 기준이 없다

서랍을 색깔로 나눌 수도, 크기로 나눌 수도 있죠. 어느 쪽이 맞는지 는 답이 없습니다.

비지도학습의 결과는 발견이 아니라 제안이다

채점할 수 있느냐가 모든 것을 바꾼다

지도학습 (분류 · 회귀)

정답이 있으니 점수를 매길 수 있다
→ 따로 떼어 둔 자료에서 채점하면 된다 (4강)

비지도학습 (군집 · 차원 축소)

정답이 없으니 채점할 수가 없다
→ "맞았다" 를 말할 방법이 없다. 15강에서 다시 본다

논문에서 UMAP 그림에 군집이 예쁘게 갈라져 있으면 설득력 있어 보이죠. 그런데 그 그림이 맞았는지는 그림만 봐서 알 수 없습니다 — 채점표가 없으니까요.

고등학생분류와 회귀 — 답의 모양이 다르다

지도학습 안에서도 둘로 갈립니다.

	분류	회귀
답	범주 — 예/아니오, A/B/C	숫자
예	이 환자가 병인가	집값은 얼마인가
채점	맞았나 틀렸나	얼마나 벗어났나

답이 이산인가 연속인가의 차이

경계가 애매한 경우가 있습니다

"시험 점수" 를 예측한다면 회귀입니다. 그런데 "합격/불합격" 이면 분류죠.

같은 자료	물음에 따라
점수를 맞힌다	회귀
합격 여부	분류

문제를 어떻게 던지느냐 가 종류를 정한다

어느 쪽이 나은가

상황	고를 것
정말 결정을 해야 한다	분류 (9강의 문턱)
얼마나 가 중요하다	회귀
둘 다 필요	회귀 → 문턱 ✔

확률을 내고 나중에 문턱을 정하는 것이 유연하다

9강에서 이 이야기를 자세히 합니다. 0.5 는 아무 근거가 없다 는 얘기예요.

구조가 없는 점들도 <b>시키는 만큼 갈라 줍니다</b>. 군집 그림을 발견으로 읽으면 안 되는 이유예요.

Python 브라우저에서 실행

# 정답이 없으면 무슨 일이 생기나 - 같은 점에 다른 답
import numpy as np
import matplotlib.pyplot as plt
rng = np.random.default_rng(11)

# 아무 구조도 없는 점들 - 그냥 둥근 구름 하나
X = rng.normal(0, 1, (300, 2))

def kmeans(X, k, iters=30, seed=0):
    r = np.random.default_rng(seed)
    C = X[r.choice(len(X), k, replace=False)]
    for _ in range(iters):
        d = ((X[:, None, :] - C[None, :, :])**2).sum(-1)
        lab = d.argmin(1)
        for j in range(k):
            if (lab == j).any(): C[j] = X[lab == j].mean(0)
    return lab

fig, axes = plt.subplots(1, 3, figsize=(10, 3.2))
for ax, k in zip(axes, [2, 3, 5]):
    lab = kmeans(X, k)
    ax.scatter(X[:, 0], X[:, 1], c=lab, s=8, cmap="tab10")
    ax.set_title(f"k = {k}", fontsize=9)
    ax.set_xticks([]); ax.set_yticks([])
plt.tight_layout(); plt.show()

print("이 점들에는 아무 무리도 없다 - 둥근 구름 하나를 뽑은 것이다.")
print("그런데 k 를 몇으로 정하든 알고리즘은 그만큼 갈라 준다.")
print()
print("셋 중 어느 것이 '맞았나'?")
print("정답이 없으므로 이 물음에 답할 방법이 없다.")
print("군집은 발견이 아니라 **요약** 이다 - 15강에서 다시 본다.")

고등학생이 강의가 다루는 순서

note 가 정한 순서에 이유가 있습니다.

모형보다 재는 법을 먼저 배운다

순서를 보면

강	주제	성격
3~6	특징 · 나누기 · 과적합 · 교차검증	준비와 채점
7~10	지표 · ROC · 문턱 · 보정	재는 법
11~15	선형 · 나무 · 이웃 · 축소 · 군집	모형
16~18	누출 · 불균형 · 해석	의심하기

모형은 세 번째에야 나온다 — 일부러 그렇다

왜 모형이 나중인가

모형을 바꿔 얻는 이득이 생각보다 작기 때문입니다.

고치는 것	효과
특징을 잘 만든다	크다 (3강)
누출을 막는다	결정적 (16강)
모형을 바꾼다	대개 작다

"어느 모형을 쓸까" 는 가장 나중에 할 고민이다

비유 — 요리

요소	맛에 미치는 영향
재료의 질	가장 크다 — 특징
조리법	중간 — 모형
접시	작다

나쁜 재료로 좋은 요리법을 써도 한계가 있다

🤔 확인 문제

논문의 UMAP 그림에서 세포가 여덟 무리로 예쁘게 갈라져 있습니다. 이것이 보장하는 것은?