Компания в настоящее время обслуживает свою модель машинного обучения на 10 зарезервированных ускоренных инстансах и должна развернуть новую версию модели на конечной точке Amazon SageMaker в реальном времени. Развертывание должно продолжать использовать исходные 10 инстансов для обслуживания обеих версий, включать один дополнительный зарезервированный инстанс для использования во время развертывания и выполнять переход без простоев. Какой подход к развертыванию удовлетворяет этим ограничениям?

Rolling deployment (постепенное развертывание) с размером пакета, равным 1, позволяет заменить по одному экземпляру старой версии модели на новую. Это гарантирует, что в любой момент времени будет использоваться только один дополнительный экземпляр (новый), а остальные 10 экземпляров будут обслуживать трафик, соответствуя требованию использования 10 исходных экземпляров и одного дополнительного. Развертывание происходит без простоя, так как трафик постепенно перенаправляется на новые экземпляры по мере их готовности. Blue/green развертывание, даже с canary-переключением, требует создания полного нового набора экземпляров (зеленой среды) в дополнение к существующему (синей среде), что превысит лимит в один дополнительный экземпляр. Теневое тестирование не является методом развертывания, а способом проверки новой модели без влияния на производственный трафик.