Ang load balancer ay isang device o serbisyo na namamahagi ng papasok na network traffic sa maraming server o iba pang target upang walang isa man ang magdala ng buong load. Binabantayan nito ang kalusugan ng mga target at nagruruta ng traffic sa mga malulusog lamang. Dahil ito ay nasa pagitan ng mga kliyente at server, ang mga backend logs ay nagtatala ng IP ng load balancer maliban na lamang kung ipapasa nito ang client IP sa isang header tulad ng X-Forwarded-For.
Ang pamamahagi ng mga request sa ganitong paraan ay nagpapataas ng availability at fault tolerance ng isang application. Inilarawan ng NGINX ang load balancing bilang isang teknik para sa pag-optimize ng paggamit ng resources, pag-maximize ng throughput, pagbabawas ng latency, at pagtiyak ng fault-tolerant na configurations.
Karaniwang Paraan ng Load Balancing
- Round robin: Ang mga request ay napupunta sa bawat server nang sunud-sunod.
- Least connections: Ang susunod na request ay napupunta sa server na may pinakamababang aktibong koneksyon.
- IP hash: Isang hash ng IP address ng kliyente ang pumipili ng server, kaya ang parehong kliyente ay patuloy na umaabot sa parehong server maliban na lamang kung ang server na iyon ay hindi available. Ito ay isang paraan upang makamit ang session persistence.
- Health checks: Kapag bumagsak ang isang server, minamarkahan ito ng load balancer at iniiwasan ang pagpapadala ng bagong requests dito sa loob ng ilang panahon.
Layer 4 vs. Layer 7 Load Balancers
Ang Layer 4 load balancer ay gumagana sa transport layer ng OSI model at nagruruta ng mga koneksyon nang hindi binabasa ang HTTP request. Ang Layer 7 load balancer ay gumagana sa application layer, kaya maaari itong mag-ruta batay sa mga detalye ng request tulad ng URL path, host header, o HTTP method. Ang Layer 7 load balancer ay maaari ring magdagdag ng client IP sa X-Forwarded-For header bago ipasa ang request.
SSL/TLS Termination
Ang load balancer ay maaaring mag-terminate ng SSL/TLS para sa backend. Ito ay nagde-decrypt ng mga request ng kliyente at nag-eencrypt ng mga response, na gawain na dapat sana ng mga backend servers. Dahil ang TLS handshake ay CPU-intensive, ito ay nag-aalis ng computational load mula sa mga server na iyon.