Firma używa wstępnie wytrenowanego modelu podstawowego (FM) na Amazon Bedrock, ale chce dostarczyć mu więcej kontekstu specyficznego dla firmy. Która opcja jest najbardziej opłacalnym sposobem dodania tego kontekstu?

Użycie baz wiedzy Amazon Bedrock (Knowledge Bases) jest najbardziej opłacalnym sposobem dodania kontekstu specyficznego dla firmy do wstępnie wytrenowanego modelu podstawowego. Knowledge Bases pozwalają na pobieranie informacji z własnych danych (np. dokumentów, baz danych) i przekazywanie ich do FM jako kontekstu, bez konieczności ponownego trenowania modelu. To podejście, znane jako Retrieval Augmented Generation (RAG), jest efektywne kosztowo i pozwala na bieżącą aktualizację kontekstu. Wybór innego FM nie doda specyficznego kontekstu. Agenci Amazon Bedrock są do orkiestracji zadań, a nie do dostarczania kontekstu. Wdrożenie niestandardowego modelu jest znacznie droższe i bardziej czasochłonne, ponieważ wymagałoby trenowania modelu od podstaw lub dostrajania (fine-tuning) na własnych danych, co jest niepotrzebne, gdy wystarczy dostarczyć kontekst.