Una fábrica tenía un piloto que ejecutaba inferencia de imágenes usando AWS IoT Greengrass en una PC industrial, subiendo imágenes a S3 e invocando un endpoint de SageMaker. Al escalar a miles de máquinas, el ancho de banda de internet se saturó y la latencia es inaceptable. ¿Cuál es la forma más rentable de reducir la latencia y resolver el problema de capacidad de la red?

La opción correcta es desplegar la Lambda de inferencia y el modelo localmente en el core de AWS IoT Greengrass. Esto permite que la inferencia se realice en el borde (edge), eliminando la necesidad de subir grandes volúmenes de imágenes a la nube para cada inferencia. Al procesar los datos localmente, se reduce drásticamente el uso de ancho de banda de internet y se minimiza la latencia, ya que los resultados se obtienen casi instantáneamente en el dispositivo. Las otras opciones implican seguir subiendo imágenes a la nube, lo que no resuelve el problema de saturación de ancho de banda ni la latencia. Direct Connect es costoso y solo mejora la conexión, no elimina la necesidad de transferencia de datos. Comprimir imágenes ayuda, pero la transferencia sigue siendo un cuello de botella.