한 회사에서 도메인별 기술 지식이 필요한 여러 작업을 처리해야 하는 사전 훈련된 대규모 언어 모델(LLM)을 사용하고 있습니다. 이 LLM에는 일부 도메인 주제에 대한 정보가 부족하며, 회사는 튜닝에 사용할 수 있는 레이블이 없는 도메인 데이터를 가지고 있습니다. 이 회사는 어떤 미세 조정 접근 방식을 사용해야 할까요?

정답은 Continued pre-training (레이블 없이 도메인 텍스트로 모델을 추가 사전 훈련)입니다. 회사는 특정 도메인에 대한 LLM의 지식 부족 문제를 해결해야 하며, 레이블이 없는 도메인 데이터를 가지고 있습니다. Continued pre-training은 레이블이 없는 도메인별 텍스트로 모델을 추가 훈련하여 모델의 도메인 지식을 확장하는 데 효과적인 접근 방식입니다. Full training은 처음부터 모델을 훈련하는 것으로, 시간과 리소스가 많이 소요되며 기존 LLM의 장점을 활용하지 못합니다. Supervised fine-tuning은 레이블이 지정된 데이터가 필요하지만, 문제 시나리오에서는 레이블이 없는 데이터만 있습니다. RAG는 추론 시 외부 문서를 사용하여 지식을 보강하지만, 모델 자체의 도메인 지식을 직접적으로 개선하지는 않습니다.