편집 도우미를 구축하는 회사는 파일럿 단계에서 사용량이 적고, 미래 트래픽을 예측할 수 없으며, 비용을 최소화하기를 원합니다. 다음 배포 옵션 중 이러한 제약 조건에 가장 적합한 것은 무엇입니까?

정답은 온디맨드 처리량(On-Demand Throughput)이 있는 Amazon Bedrock 사용입니다. 파일럿 단계에서 사용량이 적고, 미래 트래픽을 예측할 수 없으며, 비용을 최소화해야 하는 상황에 가장 적합합니다. 온디맨드 처리량은 사용한 만큼만 비용을 지불하므로 초기 비용 부담이 적고, 트래픽 변동에 유연하게 대응할 수 있습니다. GPU 기반 Amazon EC2 인스턴스는 직접 관리해야 하며 초기 설정 및 운영 비용이 높을 수 있습니다. 프로비저닝된 처리량(Provisioned Throughput)이 있는 Amazon Bedrock은 특정 처리량을 미리 예약하므로 예측 불가능한 트래픽에는 적합하지 않고 비용 효율적이지 않을 수 있습니다. Amazon SageMaker JumpStart는 모델 배포를 위한 옵션이지만, Bedrock의 온디맨드 처리량만큼 비용 효율적이고 유연한 과금 모델을 제공하지는 않습니다.