This lesson is only available in Korean for now.

Dr. Seonggu Sohn's Machine Learning, First Steps

Does this rule still work
on data it has never seen?

/stat asks whether a difference is chance. These twenty lessons ask something else — does it hold on data you have not seen?
The standard of success is different, and so are the ways you get fooled. You can produce AUC 0.9 from data where y has no relationship to X — just select the features first. We turn the handle on each trap, building logistic regression, trees, PCA and ROC by hand in numpy.

🐍 Python🔒 held-out data📉 overfitting 📊 ROC · AUC💧 leakage🫧 clustering · PCA🇬🇧 English

Start lesson 1 →

How you'll learn

🔒Only one weapon

Split the data and never touch one side. Almost all twenty lessons are about protecting that single device.

✍️Written by hand

No scikit-learn. Logistic regression, trees, PCA and ROC — ten lines of numpy each.

💧0.9 from a coin flip

We manufacture AUC 0.9 from data with no signal at all — just select the features first.

🧭Three courses, one set

/stat handles chance, this course generalisation, /epi causation. None substitutes for another.

Full curriculum

우연인가와 새것에도 되나 — 다른 물음이다

/stat 이 답하는 것과 이 강의가 답하는 것

네 가지 일 — 분류 · 회귀 · 군집 · 차원 축소

정답이 있느냐 없느냐가 먼저다

특징 — 모형보다 여기서 판가름 난다

표로 만드는 일 · 눈금 맞추기 · 없는 값

나누기 — 손도 대지 않을 자료를 남긴다

훈련 · 검증 · 시험, 그리고 왜 셋인가

과적합 — 외운 것과 배운 것

훈련 점수가 좋아질수록 나빠지는 구간

교차검증 — 자료가 적을 때 나누는 법

돌아가며 시험 보기 · 그리고 왜 한 번 나누면 부족한가

정확도 99% 짜리 쓸모없는 모형

혼동행렬 · 정밀도와 재현율

ROC 와 AUC — 문턱을 정하지 않고 재는 법

그리고 불균형 자료에서 AUC 가 속이는 방식

문턱 — 확률을 예·아니오로 바꾸는 자리

0.5 는 아무 근거가 없다

보정 — 0.9 라고 한 것이 정말 0.9 인가

잘 맞히는 것과 확률이 맞는 것은 다르다

선형 모형 — 가장 먼저 해 봐야 할 것

로지스틱 회귀 · 그리고 계수를 눌러 주는 규제

나무와 숲 — 예/아니오를 이어 붙이면

결정나무 · 그리고 여러 그루를 모으는 이유

이웃과 경계 — 가장 가까운 것 · 가장 넓은 틈

k-이웃과 SVM, 그리고 차원의 저주

차원 축소 — 수천 개 축을 둘로

PCA 는 무엇을 지키고, UMAP 은 무엇을 지키지 않는가

군집 — 정답이 없는 문제

k 를 몇으로 할 것인가, 그리고 그 물음에 답이 없다는 것

정보 누출 — 점수가 너무 좋으면 의심한다

이 강의에서 가장 중요한 한 강

드문 것 찾기 — 100명 중 2명

가중치 · 표본 조정 · 그리고 하지 말아야 할 것

왜 그렇게 예측했나 — 중요도라는 말의 함정

맞히는 것과 설명하는 것은 다른 일이다

실습 종합 — 처음부터 끝까지 한 번

나누고 · 배우고 · 채점하고 · 의심한다

정리 — 맞힌다는 것과 안다는 것

이 20강이 어느 강의로 이어지는가