Firma wykorzystała model podstawowy Amazon Bedrock i wytrenowała niestandardowy model w celu poprawy podsumowywania dokumentów do użytku wewnętrznego. Co firma musi zrobić, aby używać tego niestandardowego modelu za pośrednictwem Amazon Bedrock?

Aby używać niestandardowego modelu wytrenowanego na podstawie modelu podstawowego w Amazon Bedrock, firma musi zakupić Provisioned Throughput. Provisioned Throughput zapewnia dedykowaną przepustowość dla niestandardowego modelu, gwarantując stałą wydajność i dostępność dla wnioskowania. Jest to wymagany krok, aby model był dostępny i skalowalny w ramach usługi Bedrock. Opcja "Wdrożyć niestandardowy model do punktu końcowego Amazon SageMaker w celu wnioskowania w czasie rzeczywistym" jest nieprawidłowa, ponieważ celem jest użycie modelu za pośrednictwem Amazon Bedrock, a nie bezpośrednio w SageMaker. Bedrock abstrahuje zarządzanie punktami końcowymi. Opcja "Zarejestrować model w Amazon SageMaker Model Registry" jest nieprawidłowa, ponieważ rejestr modeli SageMaker służy do katalogowania modeli, ale nie sprawia, że są one dostępne do wnioskowania w Bedrock. Opcja "Udzielić dostępu do niestandardowego modelu w Amazon Bedrock" jest niekompletna; samo udzielenie dostępu nie wystarczy, jeśli nie ma przydzielonych zasobów do jego uruchomienia.