전이 학습

AI 개념
약 1분 읽기

특정 작업(Source Task)에서 학습된 모델의 지식을 유사하거나 새로운 작업(Target Task)에 재사용하는 기법입니다. 데이터가 부족한 환경에서도 고성능 모델을 빠르게 구축할 수 있게 해주는 현대 AI 개발의 핵심 패러다임입니다.

다른 이름
Transfer Learning

상세 설명

전이 학습은 대규모 데이터셋으로 미리 학습된 '사전 학습 모델(Pre-trained Model)'의 가중치를 가져와, 새로운 목적에 맞춰 조정하는 머신러닝 방법론입니다. 바닥부터 모델을 학습시키는 대신, 이미 학습된 특징(Feature) 추출 능력을 활용하므로 학습 시간과 연산 자원을 획기적으로 줄여줍니다. 특히 오늘날의 거대 언어 모델(LLM)이나 고도화된 이미지 인식 AI를 특정 비즈니스 도메인에 최적화(Fine-tuning)할 때 필수적으로 사용됩니다.

도구 선택에서 중요한 이유

AI 도구 도입 시 전이 학습 지원 여부는 비용 효율성과 직결됩니다. 모든 데이터를 직접 수집하고 학습시키는 것은 막대한 비용이 소모되므로, 검증된 오픈소스 모델을 기반으로 자사 데이터에 맞게 얼마나 쉽고 효율적으로 최적화할 수 있는지가 도구 선택의 핵심 기준이 됩니다.

확인할 점

  • 기반이 되는 사전 학습 모델(Backbone)의 성능과 범용성
  • 특정 도메인 데이터에 대한 파인튜닝 지원 여부 및 난이도
  • PEFT(LoRA 등) 기법 지원을 통한 하드웨어 자원 절감 가능성
  • 해결하려는 문제와 사전 학습 모델 간의 도메인 유사성

실제 사례

의료 AI 개발 시, 수백만 장의 일반 사물 이미지를 학습한 모델(예: ResNet)을 가져와 소량의 X-ray 데이터로 추가 학습시켜 암 진단 모델을 만드는 방식이 대표적입니다. 처음부터 학습시키는 것보다 훨씬 적은 데이터로도 높은 정확도를 확보할 수 있습니다.

헷갈리기 쉬운 용어

파인튜닝(Fine-tuning)

전이 학습을 구현하는 가장 일반적인 방법으로, 사전 학습된 가중치를 미세하게 조정하는 구체적인 단계를 의미합니다.

제로샷 학습(Zero-shot)

추가 학습(전이) 과정 없이 모델이 학습 중에 보지 못한 작업을 지시사항만으로 즉석에서 수행하는 방식입니다.

관련 용어

파인튜닝foundation-modelpeftzero-shot-learning