Cold Start의 정의
서버리스(Serverless) 컴퓨팅은 AWS Lambda, Google Cloud Functions처럼 서버 관리 없이 코드만 배포하면 실행되는 방식입니다. 그런데 이 편리함 뒤에는 ‘Cold Start’라는 숨은 지연이 존재합니다. Cold Start란 함수가 호출될 때 실행 환경이 아직 준비되지 않아, 컨테이너를 새로 생성하고 런타임을 초기화하는 과정에서 발생하는 지연 시간을 말합니다. 반대로 이미 준비된 환경에서 바로 실행되는 경우는 ‘Warm Start’라고 부릅니다.
비유하자면 식당에서 손님이 오자마자 요리를 시작하는 것이 Warm Start라면, Cold Start는 손님이 온 뒤에야 불을 켜고 재료를 준비하는 것과 같습니다. 당연히 첫 요리는 시간이 더 오래 걸릴 수밖에 없습니다.
Cold Start의 동작 원리
서버리스 플랫폼은 함수가 호출되지 않으면 리소스를 아껴두기 위해 실행 환경을 종료합니다. 이후 다시 호출이 들어오면 다음과 같은 과정을 거칩니다.
- 새로운 컨테이너 또는 마이크로 VM 생성
- 런타임(Node.js, Python 등) 초기화
- 애플리케이션 코드 로딩 및 의존성 로드
- 함수 핸들러 실행
이 과정은 보통 수백 밀리초에서 길게는 몇 초까지 걸릴 수 있으며, 사용하는 언어나 패키지 크기, 메모리 설정에 따라 차이가 큽니다. 예를 들어 Java나 .NET처럼 초기화 비용이 큰 런타임은 Cold Start가 상대적으로 길고, Python이나 Node.js는 비교적 짧은 편입니다.
실무에서 왜 중요한가
Cold Start는 사용자 경험과 직결되는 문제입니다. 특히 API 응답 속도가 중요한 서비스에서는 갑작스러운 지연이 발생하면 사용자가 이탈할 수 있습니다. 이를 완화하기 위해 실무에서는 다음과 같은 전략을 사용합니다.
- Provisioned Concurrency: 미리 일정 개수의 실행 환경을 예열 상태로 유지
- 함수 경량화: 불필요한 라이브러리 제거로 초기화 시간 단축
- 주기적 핑(Ping) 호출: 함수가 계속 Warm 상태를 유지하도록 스케줄링
- 런타임 선택: 초기화가 빠른 언어(Node.js, Python 등) 우선 고려
결국 서버리스는 ‘관리 부담을 줄이는 대신 약간의 지연을 감수하는’ 트레이드오프 구조입니다. Cold Start의 원리를 이해하고 있으면, 서비스 설계 단계에서 어떤 함수에 예열 전략이 필요한지 판단할 수 있고, 불필요한 지연으로 인한 장애나 사용자 불만을 사전에 줄일 수 있습니다. 서버리스를 도입할 때는 편리함만 볼 것이 아니라, 이런 실행 모델의 특성까지 함께 고려하는 것이 중요합니다.