11강 / 20강

병렬성 — 코어를 늘리면 정말 빨라질까

멀티코어 · 하이퍼스레딩 · 암달의 법칙

5강에서 봤듯이 CPU는 3GHz쯤에서 클럭을 못 올리게 됐습니다. 그래서 방향을 틀었어요 — 하나를 빠르게 대신 여럿을 나란히.

그런데 여기 함정이 있습니다. 코어를 두 배로 늘려도 두 배 빨라지지 않습니다. 왜 그런지, 그리고 그게 여러분의 워커 수 결정과 무슨 상관인지 봅시다.

고등학생코어를 늘리면 정말 빨라질까

5강에서 3GHz 벽을 봤습니다. 그래서 코어를 늘렸는데 — 정말 그만큼 빨라지나요?

답 — 아니다. 그리고 그 이유가 이 강의의 핵심

비유 — 요리사 늘리기

라면 하나를 끓입니다. 요리사를 10명으로 늘리면 10배 빨리 끓나요?

아니죠. 물이 끓는 시간은 그대로입니다.

나눌 수 없는 일은 사람을 늘려도 안 줄어든다

그런데 라면 10그릇이면?

일	요리사 10명
라면 1그릇	효과 없다
라면 10그릇	10배 ✔

일이 나눠지느냐가 전부다

쇼핑몰은 어느 쪽인가

다행히 좋은 쪽입니다. 손님 1000명의 요청은 서로 상관없어요.

작업	나눠지나
웹 요청 처리	아주 잘 ✔
정렬 · 계산	부분적으로
순차 계산 (앞 결과가 필요)	안 된다 ✗

웹 서버가 멀티코어를 잘 쓰는 이유

물리 코어 6개, 코어당 스레드 2개 → 논리 CPU 12개.

bash 브라우저에서 실행

# 이 서버는 몇 갈래로 일할 수 있나
lscpu | grep -E 'CPU\(s\)|Thread|Core|Socket|NUMA node\(s\)'

세 가지 '여러 개'

이름	이 서버	정체
소켓	1	메인보드에 꽂힌 CPU 칩의 개수
코어	6	진짜 계산 회로. 진짜 병렬
스레드(하이퍼스레딩)	코어당 2 → 12	계산 회로는 하나인데 차례를 두 벌 두는 것

고등학생하이퍼스레딩은 코어가 두 배가 아닙니다

note 의 이 경고를 왜 그런지와 함께.

물리 코어 8개 · 논리 코어 16개 — 성능은 1.2~1.3배

하이퍼스레딩이 뭘 하나

코어 하나가 두 개인 척 합니다. 계산 회로는 하나고 레지스터만 두 벌이에요.

부품	개수
레지스터 · 상태	2벌
계산 회로 (ALU)	1벌 ⚠

두 일을 번갈아 하는 것 — 동시가 아니다

그럼 왜 빨라지나

한 일이 메모리를 기다릴 때 다른 일을 하니까요. 7강의 100ns 를 놀지 않고 쓰는 겁니다.

노는 시간을 메우는 것 — 새 능력이 아니다

비유 — 요리사 한 명, 도마 두 개

고기를 재우는 동안 다른 도마에서 야채를 썹니다. 기다리는 시간을 활용하는 거죠.

그런데 계속 칼질만 하는 일이면? 도마가 둘이어도 손이 하나라 소용없습니다.

CPU 를 꽉 쓰는 작업은 하이퍼스레딩 효과가 거의 없다

작업 종류별로

작업	효과
웹 서버 (I/O 대기 많음)	20~30% ✔
동영상 인코딩 (CPU 꽉)	거의 0
과학 계산	때론 마이너스 ⚠

17강에서 워커 수를 정할 때 이걸 반드시 감안한다

고등학생암달의 법칙 — 병렬화의 천장

이 법칙 하나가 병렬 컴퓨팅 전체를 설명합니다.

순차 부분이 1/n 이면 아무리 코어를 늘려도 n배가 한계

숫자로 보면 충격적입니다

작업의 5%가 나눌 수 없다고 합시다.

코어	이론상	실제
2	2배	1.9배
10	10배	6.9배
100	100배	16.8배
∞	∞	20배 ⚠

코어를 무한히 늘려도 20배를 못 넘는다

왜 그런가 — 비유

서울에서 부산까지 가는데 공항까지 가는 시간이 1시간이라고 합시다.

구간	시간
공항까지	1시간 (못 줄인다)
비행	1시간

비행기를 10배 빠르게 만들면? 2시간 → 1시간 6분. 두 배도 안 줄었죠.

줄일 수 없는 부분이 전체를 붙잡는다

쇼핑몰에서 순차 부분이 어디인가

부분	나눠지나
요청 접수 · 분배	순차 ⚠
DB 락 잡고 재고 차감	순차 ⚠
업무 처리	병렬 ✔

DB 의 락이 대개 최대의 순차 지점이다

그래서 서버를 늘려도 DB 가 하나 면 어느 순간부터 안 빨라집니다. 19강의 그 이야기예요.

1 → 6은 거의 6배. 6 → 12는 얼마나 늘까요?

bash 브라우저에서 실행

# 스레드를 늘려 가며 실제로 재 본다
sysbench cpu --threads=1  run | grep -A1 'CPU speed'
sysbench cpu --threads=6  run | grep -A1 'CPU speed'
sysbench cpu --threads=12 run | grep -A1 'CPU speed'

6에서 12로 갈 때 두 배가 안 되죠. 물리 코어가 6개뿐이니까요. 12는 '동시에 12가지 일을 시작할 수 있다'는 뜻이지 '6배 더 빠르다'는 뜻이 아닙니다.

암달의 법칙 — 병렬화의 천장

어떤 작업이든 혼자서만 해야 하는 부분이 남습니다. 요청 하나를 처리할 때도 파싱·세션 확인·로그 쓰기는 순서대로 해야 해요.

전체의 5%가 그런 부분이라면, 코어를 무한히 늘려도 최대 20배가 천장입니다.

코어를 1000개 줘도 천장을 못 넘습니다.

Python 브라우저에서 실행

def 암달(병렬비율, 코어수):
    직렬 = 1 - 병렬비율
    return 1 / (직렬 + 병렬비율 / 코어수)

print(f"{'코어':>6}", end="")
for p in [0.50, 0.90, 0.95, 0.99]:
    print(f"{f'{p*100:.0f}% 병렬':>12}", end="")
print()
print("-" * 56)

for 코어 in [1, 2, 4, 6, 12, 32, 1000]:
    print(f"{코어:>6}", end="")
    for p in [0.50, 0.90, 0.95, 0.99]:
        print(f"{암달(p, 코어):>11.2f}배", end="")
    print()

print()
for p in [0.50, 0.90, 0.95, 0.99]:
    print(f"병렬 {p*100:.0f}% 의 천장(코어 ∞): {1/(1-p):.1f}배")

고등학생관리자에게 이게 왜 중요한가

note 의 결론을 돈 계산으로 바꿔 봅시다.

코어를 두 배로 사면 값은 두 배인데 성능은 1.5배

그래서 판단 순서가 있습니다

순서	물음
1	지금 CPU 가 정말 병목인가? (15강)
2	순차 부분이 얼마나 되나?
3	코어를 늘리면 몇 배 나오나?
4	그게 돈값을 하나?

1번을 건너뛰는 사람이 대부분이다

흔한 오진

보이는 것	진짜 원인
CPU 100%	사실은 %wa (디스크 대기)
느리다	DB 락 경합
load average 높다	대기 중인 I/O

"CPU 사용률" 이 높다고 CPU 병목은 아니다

순차 부분을 줄이는 게 더 값싼 경우가 많습니다

방법	비용	효과
코어 2배	돈	1.5배
락 범위 줄이기	개발 시간	수 배
캐시 넣기	개발 시간	수십 배

하드웨어보다 병목을 없애는 것이 대개 이득

20강의 블랙프라이데이 실습에서 이 판단을 직접 해 봅니다.

SIMD — 한 명령으로 여러 개를

병렬성에는 다른 종류도 있습니다. 한 명령이 데이터 여러 개를 동시에 처리하는 거예요. CPU 안에 512비트짜리 넓은 레지스터를 두고, 32비트 정수 16개를 한 번에 더합니다.

avx512f 가 있으면 512비트 벡터 연산이 됩니다.

bash 브라우저에서 실행

# 이 CPU 가 어떤 SIMD 명령을 알아듣나
lscpu | grep -i flags | tr ' ' '\n' | grep -E '^(sse|avx|avx2|avx512f|aes|sha_ni)$'

관리자가 SIMD를 직접 쓸 일은 없지만, 이게 있느냐 없느냐가 라이브러리 속도를 가릅니다.

aes — HTTPS 암복호화가 5~10배 빨라집니다. 없으면 TLS가 CPU를 잡아먹어요
sha_ni — 비밀번호 해시·체크섬이 빨라집니다
avx2/avx512f — 이미지 리사이즈, 압축, 넘파이 연산

그래서 오래된 서버에서 이미지 썸네일 만들기가 유난히 느린 경우가 있습니다.

🤔 확인 문제

작업의 90%를 병렬화했습니다. 코어를 1000개 주면 몇 배까지 빨라질까요?

🤔 확인 문제

하이퍼스레딩으로 논리 CPU가 12개인 서버에서, 동영상 인코딩(계산만 빡빡한 작업)을 12스레드로 돌렸습니다. 6스레드 대비 얼마나 빨라질까요?