Written by Hyojung Yoon
안녕하세요! 오늘은 다양한 IT 환경에서 중요한 역할을 하는 로드밸런서와 로드밸런싱에 대해 알아보려고 합니다. 이 기술은 트래픽이 몰리는 상황에서 사용자들에게 안정적인 서비스를 제공할 수 있게 해줍니다. 특히 AWS와 같은 클라우드 환경에서 로드밸런싱은 서비스의 성능과 안정성, 그리고 확장성을 한 단계 끌어올려줍니다.
이번 블로그를 통해 로드밸런서와 로드밸런싱의 기초부터 AWS 로드밸런서 유형까지 배워보도록 하곘습니다.
그럼 지금부터 시작하겠습니다!!
로드밸런서란?
로드밸런싱이란?
로드밸런싱 알고리즘
정적 로드 밸런싱
동적 로드 밸런싱
AWS 로드밸런서 유형
로드밸런서란?
1. 로드밸런서(Load Balancer)
로드밸런서(Load Balancer)는 클라이언트와 서버 그룹 사이에 위치해 서버에 가해지는 트래픽을 여러 대의 서버에 고르게 분배하여 특정 서버의 부하를 덜어줍니다. 서버가 하나인데 많은 트래픽이 몰릴 경우 부하를 감당하지 못하고, 서버가 다운되어 서비스가 작동을 멈출 수 있습니다. 이런 문제를 해결하기 위해서 Scale up(스케일업)과 Scale out(스케일아웃) 방식 중 한 가지를 사용해 해결합니다.
2. 스케일 업과 스케일 아웃
스케일 업(Scale Up)은 기존 서버의 성능을 향상시키는 방법으로 이는 CPU나 메모리를 업그레이드하는 것과 같은 작업을 포함합니다. 스케일 아웃(Scale Out)은 트래픽이나 작업을 여러 대의 컴퓨터나 서버에 분산시켜 처리하는 방법입니다. 각각의 방법은 장단점이 있어 어떤 방법이 더 적합한지 판단해야 합니다.
| 스케일 업 | 스케일 아웃 |
확장성 | 성능 확장에 한계 존재 | 지속적 확장이 가능 |
서버 비용 | 성능 증가에 따른 비용 증가 폭 큼 일반적으로 비용 부담이 큰 편 | 비교적 저렴한 서버를 사용하므로, 일반적으로 비용 부담이 적음 |
관리 편의성 | 스케일 업에 따른 큰 변화 없음 | 서버 대수가 늘어날수록 관리 편의성 떨어짐 |
운영 비용 | 스케일 업에 따른 큰 변화 없음 | 서버 대수가 늘어날수록 운영 비용 증가 |
장애 영향 | 한 대의 서버에 부하가 집중되므로 장애 시 다운 타임 발생 | 부하가 여러 서버에 분산되어 처리됨으로 장애 시 전면 장애 가능성 적음 |
단, 스케일 아웃을 하게 되면 서버가 여러 대가 되기 때문에 각 서버에 걸리는 부하를 고르게 나누기 위해서는 로드밸런싱이 필수적으로 동반되어야 합니다. 로드 밸런싱은 여러 서버나 컴퓨터 자원에 작업을 고르게 분산하는 기술입니다. 예를 들어 웹사이트에 들어오는 트래픽을 여러 서버에 분산시켜 하나의 서버에 부담이 가지 않도록 하는 것이 로드밸런싱의 주요 목적입니다. 이로써 서버의 성능과 안정성을 높일 수 있습니다.
로드밸런싱이란?
1. 로드밸런싱(Load Balancing)
위에서 설명했듯이 여러 서버나 컴퓨터 자원에 작업을 고르게 분산하여 처리하는 것을 말합니다. 트래픽이 과도하게 몰려 서비스가 중단되는 일을 막고 지연 없이 작업을 처리합니다.
2. 로드밸런싱의 이점
1) 애플리케이션 가용성
서버 장애 또는 유지 관리로 인해 애플리케이션 가동 중지 시간이 늘어 방문자가 애플리케이션을 사용할 수 없게 될 수 있습니다. 로드 밸런서는 서버 문제를 자동으로 감지하고 클라이언트 트래픽을 사용 가능한 서버로 리다이렉션하여 시스템의 내결함성을 높입니다. 로드 밸런싱을 사용하여 다음 태스크를 더 쉽게 수행할 수 있습니다.
애플리케이션 가동 중지 없이 애플리케이션 서버 유지 관리 또는 업그레이드 실행
백업 사이트에 자동 재해 복구 제공
상태 확인을 수행하고 가동 중지를 유발할 수 있는 문제 방지
2) 애플리케이션 확장성
로드 밸런서를 사용하여 여러 서버 간에 네트워크 트래픽을 지능적으로 전달할 수 있습니다. 로드 밸런싱이 다음을 수행하므로 애플리케이션에서 수천 개의 클라이언트 요청을 처리할 수 있습니다.
한 서버에서 트래픽 병목 현상 방지
필요한 경우 다른 서버를 추가하거나 제거할 수 있도록 애플리케이션 트래픽을 예측합니다.
안심하고 조정할 수 있도록 시스템에 중복성을 추가합니다.
3) 애플리케이션 보안
로드 밸런서에는 인터넷 애플리케이션에 또 다른 보안 계층을 추가할 수 있는 보안 기능이 내장되어 있습니다. 이는 공격자가 서버 장애를 일으키는 수백만 개의 동시 요청으로 애플리케이션 서버를 가득 채우는 분산 서비스 거부 공격을 처리하는 데 유용한 도구입니다. 로드 밸런서는 다음을 수행할 수도 있습니다.
트래픽 모니터링 및 악성 콘텐츠 차단
공격 트래픽을 여러 백엔드 서버로 자동으로 리다이렉션하여 영향 최소화
추가 보안을 위해 네트워크 방화벽 그룹을 통해 트래픽 라우팅
4) 애플리케이션 성능
로드 밸런서는 응답 시간을 늘리고 네트워크 지연 시간을 줄여 애플리케이션 성능을 향상시킵니다. 다음과 같은 몇 가지 중요한 태스크를 수행합니다.
서버 간에 로드를 균등하게 배포하여 애플리케이션 성능 향상
클라이언트 요청을 지리적으로 더 가까운 서버로 리다이렉션하여 지연 시간 단축
물리적 및 가상 컴퓨팅 리소스의 신뢰성 및 성능 보장
로드밸런싱 알고리즘
로드밸런싱에는 여러 알고리즘이 사용됩니다. 가장 흔한 알고리즘은 라운드 로빈(Round Robin), 가중치 분배(Weighted Distribution), 최소 연결(Least Connections) 등입니다. 각 알고리즘은 서로 다른 목적과 케이스에 적합하므로, 사용할 로드밸런서의 유형을 잘 선택해야 합니다.
1. 정적 로드 밸런싱
1) 라운드 로빈 방식(Round Robin Method)
클라이언트의 요청을 여러 대의 서버에 순차적으로 분배하는 방식이다. 클라이언트의 요청을 순서대로 분배하기 때문에 서버들이 동일 스펙을 가지고 있고, 서버와의 연결(세션)이 오래 지속되지 않는 경우 활용하기 적합하다.
A, B, C의 서버를 가지고 있을 경우 A → B → C → A 순서대로 순회합니다.
2) 가중치 기반 라운드 로빈 방식(Weighted Round Robin Method)
각각의 서버마다 가중치(Weight)를 매기고 가중치가 높은 서버에 클라이언트의 요청을 먼저 배분합니다. 여러 서버가 같은 사양이 아니고, 특정 서버의 스펙이 더 좋은 경우 해당 서버의 가중치를 높게 매겨 트래픽 처리량을 늘릴 수 있습니다.
서버 A의 가중치=8, 서버 B의 가중치=2, 서버 C의 가중치=3 → 서버 A에 8개, 서버 B에 2개, 서버 C에 3개의 Request를 할당합니다.
3) IP 해시 방식(IP Hash Method)
IP 해시 방식에서 로드밸런서는 클라이언트 IP 주소에 대해 해싱이라고 하는 수학적인 계산을 수행합니다. 클라이언트 IP 주소를 숫자로 변환한 다음 개별 서버에 매핑합니다. 사용자 IP를 해싱하여 부하를 분산하기 때문에 사용자가 항상 동일한 서버로 연결되는 것을 보장합니다.
2. 동적 로드 밸런싱
1) 최소 연결 방법(Least Connection Method)
최소 연결 방법에서 로드 밸런서는 활성 연결이 가장 적은 서버를 확인하고 해당 서버로 트래픽을 전송합니다. 이 방법에서는 모든 연결에 모든 서버에 대해 동일한 처리 능력이 필요하다고 가정합니다.
2) 최소 응답 시간 방법(Least Response Time Method)
서버의 현재 연결 상태와 응답 시간을 모두 고려하여, 가장 짧은 응답 시간을 보내는 서버로 트래픽을 할당합니다. 각 서버의 가용 가능한 리소스와 성능, 처리 중인 데이터양 등이 상이할 경우 적합합니다. 조건에 잘 들어맞는 서버가 있을 시 여유 있는 서버보다 먼저 할당됩니다. 로드 밸런서는 이 알고리즘을 사용하여 모든 사용자에게 더 빠른 서비스를 보장합니다.
AWS 로드밸런서 유형
1. ALB(Application Load Balancer)
복잡한 최신 애플리케이션에는 단일 애플리케이션 기능을 전담하는 여러 서버를 포함하는 서버 팜(Server Farm)이 있습니다. Application Load Balancer는 HTTP 헤더 또는 SSL 세션 ID와 같은 요청 콘텐츠를 확인하여 트래픽을 리다이렉션합니다.
예를 들어, 전자 상거래 애플리케이션에는 제품 디렉터리, 장바구니 및 결제 기능이 있습니다. Application Load Balancer가 연결된 전자 상거래 애플리케이션에서는 이미지와 비디오 같은 콘텐츠를 제공하지만, 사용자의 연결을 계속 유지할 필요가 없습니다. 사용자가 웹사이트에서 제품을 검색하면 ALB는 이 검색 요청을 연결을 유지할 필요가 없는 서버로 전송합니다. 이에 비해 많은 클라이언트 연결을 유지가 필요한 장바구니는 데이터를 오랫동안 저장할 수 있는 서버로 요청을 전송합니다.
ALB는 어플리케이션 레벨에서 로드밸런싱을 제공하며, HTTP/HTTPS 트래픽에 적합함
L7 기반 로드 밸런서를 지원하며 SSL 적용이 가능함
2. NLB(Network Load Balancer)
Network Load Balancer는 IP 주소 및 기타 네트워크 정보를 검사하여 트래픽을 최적으로 리다이렉션합니다. 애플리케이션 트래픽의 소스를 추적하고 여러 서버에 고정 IP 주소를 할당할 수 있습니다. Network Load Balancer는 앞에서 설명한 고적 및 동적 로드 밸런싱 알고리즘을 사용하여 서버 로드를 배포합니다.
NLB는 고성능을 요구하는 환경에서 부하분산에 적합한 솔루션입니다. 낮은 레이턴시로 초당 수백만 건의 요청을 처리할 수 있으며 갑작스러운 트래픽 증대 및 변화에도 최적화되어 있습니다. 예를 들어 지적이고 최적화된 연결을 유지하는 것이 중요한 실시간 스트리밍 서비스, 화상 회의 애플리케이션 또는 채팅 애플리케이션에서는 NLB를 사용하여 연결을 관리하는 것이 조금 더 적합합니다. NLB를 사용하므로써 세션 지속성을 효과적으로 유지할 수 있습니다.
NLB는 네트워크 레벨에서 로드밸런싱을 제공하고, TCP/UDP 트래픽에 적합함
L4 기반 로드 밸런서를 지원
3. ELB(Elastic Load Balancer)
Elastic Load Balancer는 둘 이상의 가용 영역에서 EC2 인스턴스 컨테이너, IP 주소 등 여러 대상에 걸쳐 수신되는 트래픽을 자동으로 분산합니다. ELB의 경우 L4와 L7에 대한 부하를 제어할 수 있습니다. 그리고 서버의 기본 주소가 바뀌면 로드밸런서를 새로 생성해야 하며 하나의 주소에 하나의 타겟 그룹을 보내게 됩니다. 따라서 타겟 그룹이 많아질수록 더 많은 수의 로드밸런서가 필요하고 비용도 그만큼 더 들어가게 됩니다.
ELB는 AWS 환경에서 제공하는 4가지 유형의 로드 밸런서를 지원함
ELB는 뛰어난 확장성과 유연성을 제공해 사용자의 다양한 요구 사항과 환경에 맞출 수 있음
마치며
지금까지 로드밸런서와 로드밸런싱에 대해서 알아봤습니다. 로드밸런서는 웹사이트와 애플리케이션의 트래픽을 관리하고, 서버의 부하를 분산시켜 서비스의 성능과 안정성을 높이는데 결정적인 역할을 합니다.
특히, AWS와 같은 클라우드 환경에서는 다양한 로드밸런싱 옵션과 기능을 제공해, 자신의 서비스와 어플리케이션에 가장 적합한 솔루션을 선택하고 적용할 수 있습니다.
이런 기술을 통해 보다 더 빠르고 안정적인 서비스를 제공할 수 있게 되며, 이는 결국 더 나은 사용자 경험과 고객 만족도를 이끌어내 비즈니스 성공으로 이어질 수 있습니다.