데이터 과학자가 BigQuery ML 모델을 생성했습니다. REST API를 통해 100ms 미만의 지연 시간으로 사용자별 예측을 제공해야 합니다. 예측 쿼리는 다음과 같습니다: SELECT predicted_label, user_id FROM ML.PREDICT(MODEL 'dataset.model', TABLE user_features). 서빙 파이프라인을 어떻게 구축해야 할까요?

정답은 Bigtable을 사용하여 예측을 제공하는 Dataflow 파이프라인을 구축하는 것입니다. BigQuery ML의 ML.PREDICT는 배치 예측에 최적화되어 있으며, 단일 사용자 예측을 위해 매번 쿼리하면 100ms 미만의 지연 시간 요구 사항을 충족하기 어렵습니다. Dataflow 파이프라인을 사용하여 모든 사용자 예측을 BigQuery에서 일괄적으로 가져와 Bigtable에 저장하면, Bigtable의 낮은 지연 시간 특성 덕분에 REST API를 통해 사용자별 예측을 빠르게 제공할 수 있습니다. Bigtable은 키-값 저장소로, 특정 userid에 대한 예측을 매우 빠르게 조회할 수 있습니다. 다른 옵션들은 BigQuery의 배치 처리 특성 때문에 낮은 지연 시간 요구 사항을 충족하기 어렵습니다.