한 팀이 GPU를 사용하여 Amazon SageMaker에서 CNN을 훈련했으며, 실시간 광물 이미지 식별을 위해 SageMaker 엔드포인트에 배포할 예정입니다. 이들은 예상 트래픽 패턴을 이미 알고 있으며, 최적의 인스턴스 유형과 구성을 선택해야 합니다. 올바른 인스턴스 구성을 선택하는 데 가장 적은 개발 노력이 필요한 접근 방식은 무엇입니까?
정답 선택
옵션을 탭하여 정답을 확인하세요.
정답: SageMaker Model Registry에 모델 아티팩트와 컨테이너를 등록합니다. SageMaker Inference Recommender Advanced 작업 유형을 실행하고, 부하 테스트를 위한 알려진 트래픽 패턴을 제공하여 인스턴스 유형과 구성을 선택합니다..
이것이 정답인 이유
SageMaker Inference Recommender의 Advanced 작업 유형은 모델 아티팩트와 컨테이너를 SageMaker Model Registry에 등록한 후, 사용자가 제공하는 알려진 트래픽 패턴을 기반으로 부하 테스트를 수행하여 최적의 인스턴스 유형과 구성을 자동으로 추천합니다. 이는 수동 부하 테스트 및 인스턴스 선택에 필요한 개발 노력을 최소화합니다. Default 작업 유형은 트래픽 패턴을 고려하지 않고 일반적인 사용 사례에 대한 권장 사항을 제공하므로, 알려진 트래픽 패턴이 있는 경우 Advanced가 더 적합합니다. GPU 인스턴스에 직접 배포하고 오픈 소스 도구로 부하 테스트하는 것은 수동 작업이 많아 개발 노력이 더 듭니다. CPU 인스턴스는 CNN 모델에 적합하지 않습니다.