Ein Unternehmen nutzt das Amazon Titan-Grundlagenmodell über Amazon Bedrock und muss das Modell mit relevanten Inhalten aus den privaten Datenquellen des Unternehmens erweitern. Was sollte das Unternehmen tun?

Um ein Amazon Titan-Grundlagenmodell mit privaten Unternehmensdaten zu erweitern, ist die Erstellung einer Amazon Bedrock Knowledge Base die korrekte Lösung. Eine Knowledge Base ermöglicht es, unternehmenseigene Daten (z.B. Dokumente, Datenbanken) in einem Vektorspeicher zu indizieren und diese dann über Retrieval Augmented Generation (RAG) für das Modell zugänglich zu machen. Dadurch kann das Modell auf spezifische, aktuelle und private Informationen zugreifen, die nicht Teil des ursprünglichen Trainingsdatensatzes waren, und so relevantere und präzisere Antworten generieren. Ein anderes Grundlagenmodell zu verwenden, würde das Problem der fehlenden unternehmensspezifischen Daten nicht lösen. Die Wahl eines niedrigeren Temperaturwerts beeinflusst die Kreativität der Modellausgabe, aber nicht den Zugriff auf externe Daten. Die Aktivierung der Protokollierung des Modellaufrufs ist nützlich für Monitoring und Debugging, erweitert aber nicht die Wissensbasis des Modells.