Een App Engine-verzoek aan /product-details roept sequentieel /sku-details aan voor vier producten. Traces tonen een hoge latency voor het geaggregeerde verzoek. Hoe verkort je de duur van het verzoek?

De meest effectieve manier om de latency te verminderen is door de vier sequentiële aanroepen naar /sku-details te paralleliseren. Dit vermindert de totale wachttijd aanzienlijk, omdat de aanroepen tegelijkertijd kunnen worden verwerkt in plaats van na elkaar. Het verhogen van de instantieklassegrootte helpt niet direct bij I/O-wachttijden van externe services. Het overschakelen naar SSD is irrelevant, aangezien het hier gaat om een webservice-aanroep en niet om lokale schijf-I/O. Caching in een database kan helpen, maar parallelisatie pakt de fundamentele sequentiële aard van de aanroepen direct aan, wat vaak een grotere impact heeft op de totale verzoekduur.