Компания запускает высокодоступное веб-приложение на инстансах Amazon EC2 за Application Load Balancer. Метрики CloudWatch показывают, что по мере увеличения трафика некоторые инстансы EC2 перегружаются большим количеством необработанных запросов. Перегруженные инстансы имеют как большее количество обработанных запросов, так и более длительное время отклика по сравнению с другими инстансами. Компания не хочет, чтобы новые запросы направлялись на уже перегруженные инстансы. Какое решение соответствует этим требованиям?

Правильный ответ — использование алгоритма наименьшего количества необработанных запросов (least outstanding requests) на основе метрик CloudWatch RequestCountPerTarget и ActiveConnectionCount. Этот алгоритм распределяет новые запросы на целевые инстансы с наименьшим количеством активных запросов или соединений, что эффективно предотвращает перегрузку отдельных инстансов. Метрики RequestCountPerTarget (количество запросов, обработанных целевым инстансом) и ActiveConnectionCount (количество активных соединений с целевым инстансом) напрямую отражают текущую нагрузку на инстанс. Алгоритм round robin просто распределяет запросы по очереди, не учитывая текущую нагрузку, что может привести к перегрузке. Использование метрик RequestCount и TargetResponseTime не так эффективно, поскольку RequestCount — это общее количество запросов к балансировщику, а не к конкретному инстансу, а TargetResponseTime отражает время ответа, но не количество необработанных запросов.