파인튜닝

파인튜닝(Fine-tuning)은 사전 학습(pre-training)된 대규모 모델을 특정 목적에 맞게 추가로 학습시키는 기법입니다. 기존 모델의 일반적인 지식을 유지하면서, 특정 도메인의 데이터로 추가 학습하여 해당 분야에서의 성능을 높입니다. 예를 들어, 범용 LLM을 의료 데이터로 파인튜닝하면 의학 관련 질문에 더 정확하게 답변할 수 있게 됩니다. LoRA, QLoRA 등 효율적인 파인튜닝 기법들이 개발되어 적은 자원으로도 모델 맞춤화가 가능해지고 있습니다.