한 전자상거래 회사가 매일 수 기가바이트의 고객 데이터를 수신하고 수요 예측 모델을 훈련합니다. 이 회사는 하루에 한 번 추론을 실행해야 합니다. 어떤 추론 유형이 가장 적합할까요?

매일 수 기가바이트의 데이터를 처리하고 하루에 한 번 추론을 실행해야 하는 시나리오에서는 배치 추론이 가장 적합합니다. 배치 추론은 대량의 데이터를 한 번에 처리하여 효율적이며, 실시간 응답이 필요하지 않을 때 비용 효율적입니다. 비동기 추론은 요청이 들어올 때마다 처리하지만 대량의 데이터를 주기적으로 처리하는 데는 배치 추론이 더 효율적입니다. 실시간 추론은 즉각적인 응답이 필요할 때 사용되므로 이 시나리오에는 과도한 리소스가 소모됩니다. 서버리스 추론은 인프라 관리가 필요 없지만, 추론 유형을 결정하는 주요 요인은 아닙니다.