Uno scienziato di dati ha creato un modello BigQuery ML. È necessario fornire previsioni per utente tramite un'API REST con una latenza inferiore a 100 ms. La query di previsione è: SELECT predicted_label, user_id FROM ML.PREDICT(MODEL 'dataset.model', TABLE user_features). Come si dovrebbe costruire la pipeline di serving?

L'opzione corretta è creare una pipeline Dataflow che precalcoli e memorizzi le previsioni in Bigtable. BigQuery ML è ottimizzato per l'addestramento e le previsioni batch, non per previsioni a bassa latenza per singolo utente tramite API REST. Eseguire direttamente ML.PREDICT per ogni richiesta API comporterebbe latenze inaccettabili. Bigtable è un database NoSQL a bassa latenza, ideale per servire dati precalcolati con accesso rapido tramite chiave (come userid). Dataflow è lo strumento appropriato per orchestrare il processo di lettura delle previsioni da BigQuery ML e scriverle in Bigtable. Le altre opzioni non soddisfano il requisito di bassa latenza: la clausola WHERE con ML.PREDICT non risolve la latenza intrinseca di BigQuery per query puntuali; una vista autorizzata non cambia il comportamento di latenza di BigQuery; un job Dataflow che esegue la query ad ogni richiesta API sarebbe inefficiente e lento.