Effet troupeau

De nombreux clients se réveillent et réessaient exactement au même moment, par exemple après une panne, et refont tomber le service qui se relevait. Le jitter, le backoff et la limitation de débit les étalent.

Où on le retrouve dans les vrais systèmes

  • Rate limiter

    Protège le système contre les clients abusifs et les tempêtes de retries en répondant HTTP 429 au-delà de la limite. Les fenêtres fixes laissent passer des rafales aux frontières ; les fenêtres glissantes et le token bucket sont plus réguliers.

    En production : Envoy rate limit service, Redis + Lua, NGINX limit_req, Cloudflare Rate Limiting

Regarde-le casser, puis répare-le

Construis une architecture, envoie-lui une journée de trafic et de pannes, et comprends pourquoi elle tient ou cède. Gratuit pour commencer.

Ouvrir le parcours Ouvrir le bac à sable