在全面發布新模型之前，公司需要對 10% 的生產流量進行線上驗證。該模型由 Application Load Balancer 後方的 SageMaker 端點提供服務。哪種設定能以最少的操作負擔提供所需的 10% 線上驗證？

將新模型作為生產變體新增至現有的 SageMaker 端點，並將變體權重設定為 0.1，是實現 10% 線上驗證最有效且操作負擔最小的方法。SageMaker 端點支援多模型變體，可以根據設定的權重自動將流量分配到不同的模型版本，這正是藍綠部署或 A/B 測試的常見模式。CloudWatch 是監控 SageMaker 端點調用指標的標準工具。 將變體權重設定為 1 會導致所有流量都流向新模型，而非 10%。為新模型建立單獨的 SageMaker 端點會增加管理複雜性和成本，且需要額外的流量路由機制。透過 ALB 路由流量到現有端點上的「新模型」是不準確的說法，因為 ALB 路由到的是 SageMaker 端點本身，而非端點內的特定模型變體。此外，CloudTrail 主要用於記錄 API 活動和變更，而非即時監控模型調用指標。