로드 밸런서는 들어오는 네트워크 트래픽을 여러 서버 또는 다른 대상에 분산시키는 장치 또는 서비스로, 단일 서버가 전체 부하를 감당하지 않도록 합니다. 로드 밸런서는 이러한 대상의 상태를 모니터링하고 건강한 대상에만 트래픽을 라우팅합니다. 클라이언트와 서버 사이에 위치하기 때문에 백엔드 로그는 로드 밸런서의 IP를 기록하며, 클라이언트 IP를 X-Forwarded-For와 같은 헤더에 전달하지 않는 한 클라이언트 IP를 기록하지 않습니다.

이러한 방식으로 요청을 분산시키면 애플리케이션의 가용성과 내결함성이 증가합니다. NGINX는 로드 밸런싱을 리소스 활용 최적화, 처리량 극대화, 지연 시간 감소 및 내결함성 구성 보장을 위한 기술로 설명합니다.

일반적인 로드 밸런싱 방법

  • 라운드 로빈: 요청이 각 서버로 순차적으로 전송됩니다.
  • 최소 연결: 다음 요청은 활성 연결이 가장 적은 서버로 전송됩니다.
  • IP 해시: 클라이언트의 IP 주소 해시가 서버를 선택하므로, 동일한 클라이언트는 해당 서버가 사용 불가능하지 않는 한 동일한 서버에 계속 연결됩니다. 이는 세션 지속성을 얻는 한 가지 방법입니다.
  • 상태 검사: 서버가 실패하면 로드 밸런서는 해당 서버를 표시하고 일정 시간 동안 새로운 요청을 보내지 않습니다.

레이어 4 대 레이어 7 로드 밸런서

레이어 4 로드 밸런서는 OSI 모델의 전송 계층에서 작동하며 HTTP 요청을 읽지 않고 연결을 라우팅합니다. 레이어 7 로드 밸런서는 애플리케이션 계층에서 작동하므로 URL 경로, 호스트 헤더 또는 HTTP 메서드와 같은 요청 세부정보에 따라 라우팅할 수 있습니다. 레이어 7 로드 밸런서는 요청을 전달하기 전에 클라이언트 IP를 X-Forwarded-For 헤더에 추가할 수도 있습니다.

SSL/TLS 종료

로드 밸런서는 백엔드에 대해 SSL/TLS를 종료할 수 있습니다. 클라이언트 요청을 복호화하고 응답을 암호화하는 작업은 백엔드 서버가 수행해야 할 작업입니다. TLS 핸드셰이크는 CPU 집약적이기 때문에 이러한 작업은 해당 서버의 계산 부하를 줄여줍니다.

관련 용어