Ein Unternehmen nutzte ein Amazon Bedrock-Basismodell und trainierte ein benutzerdefiniertes Modell, um die Dokumentenzusammenfassung für den internen Gebrauch zu verbessern. Was muss das Unternehmen tun, um dieses benutzerdefinierte Modell über Amazon Bedrock zu verwenden?

Um ein benutzerdefiniertes Modell, das auf einem Amazon Bedrock-Basismodell trainiert wurde, über Amazon Bedrock zu verwenden, ist der Erwerb von Provisioned Throughput erforderlich. Provisioned Throughput reserviert dedizierte Inferenzkapazität für Ihr Modell und gewährleistet so eine konsistente Leistung und Verfügbarkeit für Ihre Anwendungen. Ohne Provisioned Throughput kann das benutzerdefinierte Modell nicht für Inferenzanfragen in Bedrock genutzt werden. Die Bereitstellung auf einem Amazon SageMaker-Endpunkt ist für die Nutzung in Bedrock nicht notwendig, da Bedrock die Inferenz selbst verwaltet. Die Registrierung im Amazon SageMaker Model Registry ist ein Schritt zur Modellverwaltung, aber nicht direkt für die Nutzung in Bedrock erforderlich. Der Zugriff auf das Modell wird durch die Konfiguration in Bedrock selbst geregelt, aber die zugrunde liegende Kapazität muss durch Provisioned Throughput bereitgestellt werden.