Bir ön uç uygulaması, AWS Lambda ile entegre edilmiş bir Amazon API Gateway API arka ucu kullanır. İstekler geldiğinde, Lambda işlevi birçok kütüphaneyi yükler, bir Amazon RDS veritabanına bağlanır, verileri işler ve ön uca geri döndürür. Şirket, en az operasyonel değişiklikle tüm kullanıcılar için yanıt gecikmesini en aza indirmek istiyor. Bu gereksinimi hangi çözüm karşılar?

Provisioned concurrency, Lambda fonksiyonlarının önceden başlatılmış ve isteklere anında yanıt vermeye hazır olmasını sağlar. Bu, soğuk başlangıç (cold start) gecikmelerini ortadan kaldırarak yanıt süresini önemli ölçüde azaltır. Mevcut mimaride en az operasyonel değişiklikle gecikmeyi azaltmanın en etkili yoludur. Diğer seçenekler: API'yi atlayarak ön uç ile veritabanı arasında doğrudan bağlantı kurmak, güvenlik riskleri oluşturur ve mevcut mimaride büyük operasyonel değişiklikler gerektirir. Sorgu sonuçlarını Amazon S3'te önbelleğe almak, yalnızca belirli veri kümeleri için faydalıdır ve genel yanıt gecikmesini tüm istekler için iyileştirmez. Ayrıca, veritabanı bağlantı gecikmesini veya Lambda soğuk başlangıçlarını çözmez. Veritabanının boyutunu artırmak, veritabanının aynı anda kurabileceği bağlantı sayısını artırabilir ancak Lambda soğuk başlangıçlarını veya Lambda'nın veritabanına bağlanma süresini doğrudan etkilemez. Ayrıca, Lambda'nın kendisi birçok kütüphane yüklediği için bu durumun gecikmeye etkisi sınırlı kalır.