세일 시작 5분 만에 서버가 멈추는 이유
대형 할인 이벤트나 방송 노출로 트래픽이 갑자기 몇 배씩 뛰는 순간, 평소 문제없던 쇼핑몰 서버가 그대로 멈추는 경우가 있다. 원인은 대부분 같다. 평소 트래픽에 맞춰진 서버가 순간적으로 몰려드는 요청을 감당하지 못하고, 확장이 필요하다는 걸 감지한 시점부터 실제로 서버가 늘어나기까지 걸리는 시간 동안 이미 장애가 시작되는 것이다. 트래픽 급증에 대비하려면 이 시간차를 줄이는 전략과, 애초에 원본 서버까지 요청이 도달하지 않게 만드는 전략을 함께 써야 한다.
오토스케일링만으로는 부족하다
오토스케일링은 CPU·메모리 사용률이 일정 기준을 넘으면 서버를 자동으로 늘려주는 기능이다. 다만 이 과정은 근본적으로 사후 대응이다. 임계치를 감지하고 새 서버를 준비해 트래픽을 받을 수 있는 상태로 만드는 데까지 보통 몇 분이 걸리는데, 세일 시작과 동시에 몰리는 순간적인 트래픽 폭증(마이크로 버스트)은 이 몇 분을 기다려주지 않는다. 오토스케일링은 반드시 필요한 장치이지만, 그것만 믿고 있으면 정작 트래픽이 가장 몰리는 순간에 서버가 못 버티는 상황이 생길 수 있다.
CDN과 캐싱으로 원본 서버 부담을 줄인다
가장 효과적인 전략은 요청 자체가 원본 서버(WAS)까지 도달하지 않게 만드는 것이다. 이미지, CSS, 자바스크립트 같은 정적 파일은 CDN에 캐싱해두면 방문자와 가까운 엣지 서버에서 바로 응답이 나가고 원본 서버는 이 요청을 아예 처리하지 않아도 된다. 상품 목록이나 상세 페이지처럼 자주 바뀌지 않는 콘텐츠도 짧은 시간이라도 캐시를 걸어두면 동시 접속이 몰릴 때 원본 서버로 가는 트래픽을 크게 줄일 수 있다. 세일 직전에는 주요 페이지의 캐시 설정을 미리 점검해서, 캐시가 없거나 만료된 상태로 세일을 맞이하는 일이 없도록 해야 한다.
세일 전 체크리스트
- 주요 상품 페이지, 목록 페이지에 캐시가 정상 적용되어 있는지 확인한다.
- 이미지·정적 파일이 CDN을 거쳐 서빙되는지, 캐시 적중률이 충분한지 점검한다.
- 오토스케일링의 임계값과 확장 속도를 트래픽 예상치에 맞춰 미리 조정해둔다.
- 결제·재고 확인처럼 캐싱이 어려운 구간은 별도로 부하 테스트를 진행한다.
- DB 커넥션 풀, 세션 저장소 등 병목이 되기 쉬운 지점의 한도를 사전에 늘려둔다.
- 실시간 트래픽 모니터링 대시보드를 열어두고 담당자를 배치한다.
캐싱이 어려운 구간은 따로 관리한다
재고 확인, 결제, 장바구니처럼 실시간성이 필요한 기능은 캐싱으로 해결할 수 없다. 이런 구간은 사전에 부하 테스트를 진행해서 몇 명의 동시 요청까지 버틸 수 있는지 미리 파악해두는 것이 중요하다. 데이터베이스 커넥션 풀이나 세션 저장소의 한도가 낮게 잡혀 있으면 전체 서버 자원이 남아 있어도 이 부분에서 먼저 병목이 생길 수 있으므로, 트래픽 예상치에 맞춰 미리 여유를 둬야 한다.
정리
트래픽 급증 대응은 서버를 늘리는 것 하나로 끝나지 않는다. CDN과 캐싱으로 원본 서버에 도달하는 요청 자체를 줄이고, 오토스케일링은 그 위에서 남은 트래픽 변화에 대응하도록 역할을 나누는 것이 현실적인 전략이다. 대형 이벤트를 앞두고 있다면 캐시 설정, 확장 정책, 병목 구간 세 가지를 미리 점검해두는 것이 사고를 줄이는 가장 확실한 방법이다.
