Ein Unternehmen betreibt eine hochverfügbare Webanwendung auf Amazon EC2-Instances hinter einem Application Load Balancer. CloudWatch-Metriken zeigen, dass bei steigendem Datenverkehr einige EC2-Instances mit vielen ausstehenden Anfragen überlastet sind. Die überlasteten Instances haben sowohl eine höhere Anzahl verarbeiteter Anfragen als auch längere Antwortzeiten als andere Instances. Das Unternehmen möchte nicht, dass neue Anfragen an bereits überlastete Instances weitergeleitet werden. Welche Lösung erfüllt diese Anforderungen?

Die korrekte Lösung ist die Verwendung des Algorithmus für die geringste Anzahl ausstehender Anfragen (least outstanding requests) basierend auf den CloudWatch-Metriken RequestCountPerTarget und ActiveConnectionCount. Dieser Algorithmus leitet neue Anfragen an die Ziel-Instance mit der geringsten Anzahl aktiver Anfragen weiter, was überlastete Instances entlastet und die Antwortzeiten verbessert. Die Metriken RequestCountPerTarget und ActiveConnectionCount sind hierfür relevant, da sie direkt die Auslastung einer einzelnen Ziel-Instance widerspiegeln. Round-Robin-Routing verteilt Anfragen gleichmäßig, ohne die aktuelle Last der Instances zu berücksichtigen, was überlastete Instances nicht entlasten würde. Die Metriken RequestCount und TargetResponseTime sind weniger geeignet, da RequestCount die Gesamtzahl der Anfragen an den Load Balancer und nicht pro Ziel-Instance misst und TargetResponseTime zwar die Antwortzeit angibt, aber nicht direkt die Anzahl der ausstehenden Anfragen zur Lastverteilung nutzt.