Throttling yêu cầu là thực hành có chủ đích làm chậm tốc độ mà một trình thu thập thông tin gửi yêu cầu, thêm độ trễ giữa chúng, để tránh làm quá tải máy chủ của trang web mục tiêu.

Thuật ngữ này cũng được sử dụng ở phía máy chủ. Microsoft mô tả throttling là một kỹ thuật mà các API đám mây sử dụng để giới hạn số lượng yêu cầu có thể được thực hiện trong một khoảng thời gian, để API vẫn có sẵn cho tất cả người dùng. Dù sao đi nữa, mục tiêu vẫn giống nhau: giữ lưu lượng truy cập ở mức mà máy chủ có thể xử lý.

Throttling so với Giới hạn Tốc độ

ThrottlingGiới hạn tốc độ
Ý tưởng chínhKiểm soát tốc độ của các yêu cầuGiới hạn số lượng yêu cầu trong một khoảng thời gian
Yêu cầu vượt quáThường bị trì hoãn hoặc phân tánThường bị từ chối
Ai áp dụngKhách hàng, máy chủ hoặc cả haiThường là máy chủ
Tín hiệu điển hìnhPhản hồi chậm hơn, hoặc 429 với Retry-After429 Too Many Requests

Hai thuật ngữ này chồng chéo nhau trong thực tế. AWS, chẳng hạn, mô tả các yêu cầu bị throttled vượt quá giới hạn là bị từ chối với lỗi 429 Too Many Requests. Xem giới hạn tốc độ để biết cách máy chủ đếm yêu cầu.

Cách Máy Chủ Throttle

  • Thùng token: AWS khuyến nghị thuật toán này, trong đó mỗi yêu cầu sử dụng một token và các token được nạp lại với một tỷ lệ cố định mỗi giây.
  • Mã trạng thái: tín hiệu phổ biến nhất là 429 Too Many Requests. Microsoft lưu ý rằng không phải mọi API đều sử dụng nó: GitHub có thể phản hồi với 403.
  • Thời gian chờ: một số API thêm một tiêu đề Retry-After cho biết thời gian cần chờ trước khi gửi yêu cầu tiếp theo.

Cách Các Trình Thu Thập Throttle Bản Thân

  • Độ trễ cố định: một khoảng dừng cố định giữa các yêu cầu đến cùng một trang web.
  • Độ trễ ngẫu nhiên: cài đặt DOWNLOAD_DELAY_JITTER của Scrapy thêm sự biến đổi ngẫu nhiên vào mỗi độ trễ, để các yêu cầu không đến đúng nhịp.
  • Độ trễ thích ứng: tiện ích mở rộng AutoThrottle của Scrapy thích ứng với phản hồi của trang web. Nó đặt độ trễ mục tiêu là độ trễ của máy chủ chia cho một độ đồng thời mục tiêu, và không tăng tốc khi có phản hồi lỗi.
  • Giới hạn đồng thời: ít kết nối đồng thời đến một trang web làm giảm tỷ lệ yêu cầu.

Các Lần Thử Có Thể Đảo Ngược Throttling

Một trình thu thập thông tin có thể điều chỉnh tốc độ các yêu cầu đầu tiên tốt và vẫn làm ngập một trang web với các lần thử lại. Một bài viết của Thư viện Builders' của Amazon cảnh báo rằng nếu một hệ thống bị quá tải, các lần thử lại có thể làm tình trạng quá tải trở nên tồi tệ hơn thay vì tốt hơn. Nó đưa ra một ví dụ mà các lớp mỗi lần thử lại độc lập làm tăng tải trên cơ sở dữ liệu lên 243 lần.

Bài viết cùng một danh sách các cách khắc phục:

  1. Giảm dần theo cấp số nhân: tăng thời gian chờ sau mỗi lần thử không thành công.
  2. Thêm jitter: thêm sự ngẫu nhiên vào mỗi lần chờ, để các lần thử lại phân tán theo thời gian thay vì đến cùng một lúc.
  3. Giới hạn nó: đặt một thời gian chờ tối đa và một số lần thử tối đa.

Điều Đó Có Nghĩa Gì Đối Với Việc Thu Thập Dữ Liệu Web

  • Throttle theo trang web, không theo công việc: giới hạn áp dụng cho mỗi mục tiêu, vì vậy hãy điều chỉnh tốc độ yêu cầu đến từng miền riêng biệt.
  • Xem 429 như một khoảng dừng: chờ thời gian Retry-After, hoặc giảm tốc với jitter khi không có.
  • IP mới không thay thế tốc độ: chuyển đổi IP sau khi nhận được 429 không giúp ích nếu trang web cũng đếm theo cookie, tài khoản hoặc dấu vân tay.

Các Thuật Ngữ Liên Quan