[2] 기존 스레드 vs 가상 스레드 성능 비교

[sunwon12]

가상 스레드 성능 테스트 결과

테스트 환경:

• OS: macOS
• CPU: Apple Silicon / Intel
• RAM: 16GB+
• Java Version: 21
• Spring Boot Version: 3.4.4

테스트 설정

테스트 시나리오

• 동시 사용자: 500명
• 램프업 시간: 0초 (동시 시작)
• 반복 횟수: 10회
• Think Time: 비활성화
• 총 요청 수: 5,000회
• 테스트 API: GET /api/sleep-test
• I/O 지연: Thread.sleep(100ms)

스레드 풀 설정

• 플랫폼 스레드: 최대 50개 (Tomcat)
• 가상 스레드: 무제한 (carrier thread는 CPU 코어 수만큼)

---

테스트 요약

일반 플랫폼 스레드 (Platform Threads)

지표	결과
총 요청 수	5,000
Throughput (req/sec)	479.1
Average (ms)	977
Min (ms)	100
Max (ms)	1,141
Std. Dev.	196.97
Error %	0.00%

가상 스레드 (Virtual Threads) ⚡

지표	결과
총 요청 수	5,000
Throughput (req/sec)	3,921.6
Average (ms)	105
Min (ms)	100
Max (ms)	177
Std. Dev.	9.84
Error %	0.00%

---

성능 개선율

지표	플랫폼 스레드	가상 스레드	개선율
Throughput	479.1 req/sec	3,921.6 req/sec	🚀 8.2배 향상!
Average Response Time	977 ms	105 ms	⚡ 9.3배 빠름!
Max Response Time	1,141 ms	177 ms	6.4배 빠름!
표준 편차	196.97	9.84	20배 더 안정적!
Error Rate	0%	0%	동일

---

상세 분석

1. 처리량 (Throughput) 비교

관찰 사항

• 플랫폼 스레드: 479.1 req/sec

  • 50개 스레드 풀이 병목 발생
  • 각 요청이 100ms sleep하므로 이론적 최대치는 500 req/sec
  • 실제 약 96% 효율 달성

• 가상 스레드: 3,921.6 req/sec

  • 8.2배 더 높은 처리량
  • carrier thread가 sleep 중 다른 가상 스레드 처리

분석

• 플랫폼 스레드는 50개 OS 스레드가 각각 100ms씩 블로킹되어 병목 발생
• 가상 스레드는 Thread.sleep() 중 unmount되어 carrier thread가 계속 다른 작업 처리
• I/O 대기 시간이 많을수록 가상 스레드의 효과가 극대화됨

---

2. 응답 시간 (Response Time) 비교

평균 응답 시간

• 플랫폼 스레드: 977 ms

  • 100ms sleep + 약 877ms 대기 시간
  • 스레드 풀 고갈로 인한 큐 대기

• 가상 스레드: 105 ms

  • 거의 100ms sleep 시간만 소요
  • 대기 시간 거의 없음

• 개선율: 9.3배 빠름

최대 응답 시간 (최악 케이스)

• 플랫폼 스레드: 1,141 ms

  • 일부 요청은 1초 이상 대기

• 가상 스레드: 177 ms

  • 최악의 경우에도 177ms로 매우 안정적

• 개선율: 6.4배 빠름

응답 시간 안정성 (표준 편차)

• 플랫폼 스레드: 196.97

  • 응답 시간 편차가 매우 큼
  • 예측 불가능한 대기 시간

• 가상 스레드: 9.84

  • 거의 일정한 응답 시간 (~100ms)
  • 매우 안정적이고 예측 가능

관찰 사항

• 플랫폼 스레드는 대기 시간이 처리 시간의 약 9배
• 가상 스레드는 대기 시간이 거의 없음
• 사용자 경험 측면에서 가상 스레드가 압도적으로 우수

---

3. 에러율 비교

플랫폼 스레드

• 에러 발생: 0%
• 이유: 스레드 풀(50) + 큐(100) 크기가 충분했음
• 주의: 더 높은 부하에서는 에러 발생 가능성 있음

가상 스레드

• 에러 발생: 0%
• 이유: 무제한 가상 스레드로 모든 요청 처리 가능

분석

• 플랫폼 스레드는 동시 요청이 150개(50 threads + 100 queue)를 초과하면 에러 발생
• 가상 스레드는 수만~수십만 동시 요청도 처리 가능
• 확장성 측면에서 가상 스레드가 압도적

---

4. 리소스 효율성

스레드 사용량

• 플랫폼 스레드: 50개 OS 스레드

  • 각 스레드당 약 1MB 메모리 사용
  • 총 약 50MB (스레드 스택만)

• 가상 스레드:

  • Carrier threads: 8~16개 (CPU 코어 수)
  • Virtual threads: 5,000+개 동시 실행
  • 가상 스레드 당 약 1KB 미만

메모리 효율성

• 플랫폼 스레드 50개 ≈ 50MB
• 가상 스레드 5,000개 ≈ 5MB + carrier threads 16MB ≈ 21MB
• 더 많은 동시성을 더 적은 메모리로 달성

분석

• 가상 스레드는 OS 스레드 생성 오버헤드가 없음
• 컨텍스트 스위칭 비용 최소화
• 메모리 효율성 극대화

---

결론

가상 스레드의 장점 (실제 측정 결과)

성능:

1. 처리량 8.2배 향상 (479 → 3,922 req/sec)
2. 평균 응답 시간 9.3배 개선 (977ms → 105ms)
3. 최대 응답 시간 6.4배 개선 (1,141ms → 177ms)

리소스 효율:

1. 50개 OS 스레드로 5,000+ 동시 요청 처리
2. 메모리 사용량 절감 (스레드당 1MB → 1KB)
3. CPU 효율적 사용 (컨텍스트 스위칭 최소화)

안정성:

1. 응답 시간 편차 20배 감소 (표준 편차 197 → 9.84)
2. 예측 가능한 성능 (거의 일정한 응답 시간)
3. 무제한 확장성 (스레드 풀 고갈 없음)

플랫폼 스레드의 한계 (실제 측정 결과)

1. 스레드 풀 병목 - 50개 제한으로 최대 500 req/sec
2. 긴 대기 시간 - 평균 응답 시간의 90%가 대기 시간
3. 불안정한 성능 - 표준 편차가 크고 예측 불가능
4. 확장성 한계 - 더 많은 동시 요청 처리 시 에러 발생 가능

종합 결론

Java 21의 가상 스레드는 I/O Bound 작업에서 성능 향상을 제공합니다.

• 8배 이상의 처리량 향상
• 9배 이상의 응답 시간 개선
• 코드 변경 없이 설정만으로 달성 (spring.threads.virtual.enabled=true)

권장 사항

1. 가상 스레드 적용 추천 케이스:

   • I/O Bound 작업 (DB 쿼리, API 호출, 파일 I/O)
   • 높은 동시성이 필요한 서비스 (웹 서버, 마이크로서비스)
   • 기존 블로킹 코드를 유지하면서 성능 개선 필요 시

2. 주의사항:

   • synchronized 블록 내에서 blocking I/O 피하기
   • CPU Bound 작업에는 효과 없음
   • Java 21 이상, Spring Boot 3.2 이상 필요

---

추가 실험 아이디어

1. 실제 DB 쿼리 테스트

   • MySQL/PostgreSQL 실제 쿼리로 테스트
   • Connection Pool 최적화 필요성 확인

2. synchronized 블록 테스트

   • synchronized 내에서 sleep 시 성능 저하 확인
   • ReentrantLock과 비교