한 회사에서 PDF 파일로 저장된 제품 설명서를 참조하는 채팅 인터페이스를 구축하기 위해 Amazon Bedrock LLM을 사용할 계획입니다. 가장 비용 효율적인 접근 방식은 무엇입니까?

정답은 PDF 문서를 Amazon Bedrock 지식 기반에 업로드하고 해당 지식 기반을 사용하여 프롬프트에 대한 컨텍스트를 제공하는 것입니다. Amazon Bedrock 지식 기반은 RAG(검색 증강 생성)를 구현하여 LLM이 외부 지식 소스에서 정보를 검색하고 이를 응답 생성에 활용하도록 합니다. 이는 모델을 미세 조정하는 것보다 훨씬 비용 효율적이며, 최신 정보를 유지하기 쉽습니다. 단일 또는 모든 PDF 파일을 프롬프트에 직접 포함하는 것은 토큰 제한으로 인해 비실용적이며, 비용이 많이 들고, 컨텍스트 창을 초과할 수 있습니다. 모든 PDF 문서를 사용하여 모델을 미세 조정하는 것은 상당한 비용과 시간이 소요되며, 새로운 정보가 추가될 때마다 모델을 재학습시켜야 하는 비효율적인 방법입니다.