Een bedrijf draait een zeer beschikbare webapplicatie op Amazon EC2-instances achter een Application Load Balancer. CloudWatch-metrics tonen aan dat, naarmate het verkeer toeneemt, sommige EC2-instances overbelast raken met veel openstaande verzoeken. De overbelaste instances hebben zowel een hoger aantal verwerkte verzoeken als langere responstijden dan andere instances. Het bedrijf wil niet dat nieuwe verzoeken worden gerouteerd naar instances die al overbelast zijn. Welke oplossing voldoet aan deze vereisten?

De correcte oplossing is het 'least outstanding requests'-algoritme. Dit algoritme stuurt nieuwe verzoeken naar de target met het minste aantal openstaande verzoeken, wat helpt om de belasting gelijkmatig te verdelen en overbelasting van individuele instances te voorkomen. De 'RequestCountPerTarget' en 'ActiveConnectionCount' CloudWatch-metrics zijn indicatoren voor de belasting van een instance. 'RequestCountPerTarget' meet het aantal verzoeken dat naar een specifieke target is gestuurd, en 'ActiveConnectionCount' meet het aantal actieve clientverbindingen. Het round robin-algoritme verdeelt verzoeken sequentieel, ongeacht de huidige belasting, wat kan leiden tot overbelaste instances. De 'RequestCount' en 'TargetResponseTime' metrics zijn minder direct bruikbaar voor het dynamisch routeren op basis van openstaande verzoeken.