Load balancer adalah perangkat atau layanan yang mendistribusikan lalu lintas jaringan yang masuk ke beberapa server atau target lainnya sehingga tidak ada satu pun yang menanggung seluruh beban. Ini memantau kesehatan target-target tersebut dan mengarahkan lalu lintas hanya ke yang sehat. Karena ia berada di antara klien dan server, log backend mencatat IP load balancer kecuali ia meneruskan IP klien dalam header seperti X-Forwarded-For.
Menyebarkan permintaan dengan cara ini meningkatkan ketersediaan dan toleransi kesalahan dari sebuah aplikasi. NGINX menggambarkan load balancing sebagai teknik untuk mengoptimalkan pemanfaatan sumber daya, memaksimalkan throughput, mengurangi latensi, dan memastikan konfigurasi yang toleran terhadap kesalahan.
Metode Load Balancing Umum
- Round robin: Permintaan diteruskan ke setiap server secara bergiliran.
- Least connections: Permintaan berikutnya diteruskan ke server dengan koneksi aktif paling sedikit.
- IP hash: Hash dari alamat IP klien memilih server, sehingga klien yang sama terus mencapai server yang sama kecuali server tersebut tidak tersedia. Ini adalah salah satu cara untuk mendapatkan persistensi sesi.
- Health checks: Ketika sebuah server gagal, load balancer menandainya dan menghindari mengirimkan permintaan baru untuk sementara waktu.
Load Balancer Layer 4 vs. Layer 7
Load balancer Layer 4 bekerja di lapisan transport dari model OSI dan mengarahkan koneksi tanpa membaca permintaan HTTP. Load balancer Layer 7 bekerja di lapisan aplikasi, sehingga dapat mengarahkan berdasarkan detail permintaan seperti jalur URL, header host, atau metode HTTP. Load balancer Layer 7 juga dapat menambahkan IP klien ke header X-Forwarded-For sebelum meneruskan permintaan.
Terminasi SSL/TLS
Load balancer dapat menghentikan SSL/TLS untuk backend. Ia mendekripsi permintaan klien dan mengenkripsi respons, pekerjaan yang seharusnya dilakukan oleh server backend. Karena proses handshake TLS memerlukan banyak CPU, ini mengurangi beban komputasi dari server-server tersebut.