Żądanie App Engine /product-details wywołuje /sku-details dla czterech produktów szeregowo. Ślady pokazują wysokie opóźnienie dla zagregowanego żądania. Jak zmniejszyć czas trwania żądania?

Żądania wysyłane szeregowo (jedno po drugim) do czterech produktów kumulują opóźnienia, co prowadzi do wysokiego całkowitego czasu odpowiedzi. Wysyłanie tych żądań równolegle (jednocześnie) znacznie skróci czas oczekiwania, ponieważ wszystkie cztery operacje będą wykonywane w tym samym czasie, a nie kolejno. Zwiększenie rozmiaru klasy instancji może pomóc w obsłudze większego obciążenia, ale nie rozwiąże problemu opóźnień wynikających z szeregowego wykonywania operacji. Zmiana dysku na SSD jest nieistotna, ponieważ problem dotyczy wywołań sieciowych, a nie operacji dyskowych. Buforowanie /sku-details w bazie danych i zastąpienie wywołania usługi sieciowej zapytaniem do bazy danych może zmniejszyć opóźnienia, ale nie jest to bezpośrednie rozwiązanie problemu szeregowego wykonywania żądań. Równoległe przetwarzanie jest najbardziej bezpośrednim i efektywnym sposobem na skrócenie czasu trwania żądania w tym scenariuszu.