새 모델을 완전히 출시하기 전에 회사는 프로덕션 트래픽의 10%에 대해 온라인으로 유효성을 검사해야 합니다. 이 모델은 Application Load Balancer 뒤의 SageMaker 엔드포인트에서 제공됩니다. 운영 오버헤드가 가장 적으면서 필요한 10% 온라인 유효성 검사를 제공하는 설정은 무엇입니까?

정답은 SageMaker 엔드포인트의 프로덕션 변형 기능을 활용하는 것입니다. 새 모델을 기존 엔드포인트에 새 변형으로 추가하고 가중치를 0.1로 설정하면 SageMaker가 자동으로 들어오는 트래픽의 10%를 새 모델로 라우팅합니다. 이는 운영 오버헤드가 가장 적은 블루/그린 배포 또는 A/B 테스트를 구현하는 효율적인 방법입니다. CloudWatch를 사용하여 모델 호출 및 성능 지표를 모니터링할 수 있습니다. 오답 설명: 변형 가중치를 1로 설정하면 모든 트래픽이 새 모델로 라우팅되어 10% 유효성 검사 요구 사항을 충족하지 못합니다. 새 모델에 대한 별도의 SageMaker 엔드포인트를 생성하는 것은 가능하지만, ALB를 통한 수동 트래픽 라우팅 구성이 필요하며, 이는 단일 엔드포인트 내에서 변형을 사용하는 것보다 운영 오버헤드가 더 큽니다. ALB를 구성하여 트래픽을 라우팅하는 것은 가능하지만, SageMaker의 내장된 변형 라우팅 기능보다 복잡하며, CloudTrail은 API 호출 기록에 사용되며 모델 호출 모니터링에는 적합하지 않습니다. CloudWatch가 모델 호출 모니터링에 적합한 서비스입니다.