Un'azienda esegue un'applicazione web ad alta disponibilità su istanze Amazon EC2 dietro un Application Load Balancer. Le metriche di CloudWatch mostrano che, all'aumentare del traffico, alcune istanze EC2 si sovraccaricano con molte richieste in sospeso. Le istanze sovraccariche hanno sia un numero maggiore di richieste elaborate sia tempi di risposta più lunghi rispetto ad altre istanze. L'azienda non vuole che le nuove richieste vengano instradate a istanze già sovraccariche. Quale soluzione soddisfa questi requisiti?

La soluzione corretta è utilizzare l'algoritmo "least outstanding requests" (richieste in sospeso minime) basato sulle metriche CloudWatch RequestCountPerTarget e ActiveConnectionCount. Questo algoritmo distribuisce le nuove richieste all'istanza con il minor numero di richieste attive o connessioni in sospeso, evitando di sovraccaricare le istanze già sotto pressione. Le metriche RequestCountPerTarget e ActiveConnectionCount riflettono direttamente il carico attuale su ciascuna istanza. Le opzioni che utilizzano l'algoritmo round robin non sono adatte perché distribuiscono le richieste in modo sequenziale, senza considerare il carico attuale delle istanze, portando al sovraccarico descritto. Le opzioni che usano RequestCount e TargetResponseTime non sono ideali: RequestCount è una metrica aggregata per il Load Balancer, non per il singolo target, e TargetResponseTime misura la latenza, non il numero di richieste in sospeso.