#DevOps

포스타입 서버가 변화무쌍한 트래픽에 대응하는 방법

Summary

매년 새해 첫날 터지던 서버, 포스타입은 어떻게 오토 스케일링으로 구원했을까?

플래핑 현상 해결부터 웜 풀 활용까지, 변화무쌍한 트래픽을 견뎌내는 실전 AWS 인프라 구축기

이 아티클은 매년 1월 1일 새벽 폭발적인 사용자 유입으로 서버 마비를 겪던 포스타입이 AWS 오토 스케일링 고도화를 통해 무장애 인프라를 완성한 실무 과정을 담고 있습니다. 자동화 정책의 맹점인 플래핑 이슈를 '단계 조정 정책'으로 우회하고, 느린 스프링 부트 로딩 문제를 '웜 풀'로 극복한 생생한 인프라 트러블슈팅 경험을 공유합니다.

01대상 추적 조정 정책이 자동 생성하는 알람 한계를 인지하고 커스텀 설정이 가능한 '단계 크기 조정 정책'으로 전격 교체
02인스턴스 추가와 삭제 임계값 사이에 충분한 갭을 두어 시스템 수명을 갉아먹는 '플래핑(flapping)' 현상을 완벽 방지
03SpringBoot API 서버의 느린 프로비저닝 단점을 극복하기 위해 대기 인스턴스를 즉각 구동하는 '웜 풀(Warm Pool)' 전략 전개
04신년 자정처럼 확실한 트래픽 폭증이 예상될 경우 최소 용량을 사전 조정하여 헬스 체크 지연으로 인한 초기 장애 리스크 예방
05Blue-Green 배포 도중 발생할 수 있는 오토 스케일링 그룹과 CloudWatch 모니터링 연동 유실 주의 사항 전파

RECOMMENDATION

갑작스러운 트래픽 폭증으로 오토 스케일링이 너무 느리게 동작하거나, 스케일 아웃/인 반복으로 서버 비용이 낭비되는 인프라 및 DevOps 엔지니어에게 일독을 권장합니다.

The Problem

매년 1월 1일 자정처럼 단시간에 트래픽이 폭증할 때 서버가 다운되거나 장애가 발생하는 문제가 있었으며, 심야와 주간의 트래픽 편차가 심해 고정된 대수의 서버를 유지하는 것은 비효율적인 상황이었습니다.

The Solution

AWS EC2 '단계 크기 조정 정책'을 적용해 스케일 인/아웃 임계값에 충분한 격차를 두어 플래핑 현상을 잡았고, '웜 풀(Warm Pool)' 기능을 도입해 인스턴스 초기 가동 시간을 극적으로 단축했으며, 예측 가능한 대규모 이벤트 전에는 최소 인스턴스 제한 값을 수동으로 선제 확장했습니다.