전이 학습

많은 데이터로 이미 학습한 모델의 지식을 새 작업에 가져다 쓰는 머신러닝 방법으로, 데이터가 적거나 처음부터 학습할 시간과 비용이 없을 때 쓴다. LLM에서 흔히 쓰는 "사전학습 → 파인튜닝" 흐름이 전부 전이 학습이다.

기본기는 다시 배우지 않는다

수백만 장의 이미지로 학습한 모델은 엣지, 색상, 형태를 알아보는 법을 이미 익혔다. 그래서 의료 X-ray 분류를 시킬 때 그 기본기는 그대로 두고, X-ray만의 특징만 새로 배우면 된다. 언어 모델도 같다. 대량의 텍스트로 문법과 세상 지식을 익힌 모델을 의료 문서 Q&A나 특정 프레임워크 코드 생성에 맞춰 조금만 더 학습시킨다.

데이터 양에 따라 방식을 고른다

먼저 내 작업과 가까운 분야의 사전학습 모델을 고른다. 그다음 가진 데이터 양과 자원에 맞춰 얼마나 많이 고칠지 정하고, 학습에 쓰지 않은 검증 데이터로 성능을 확인한다.

LLM은 프롬프트로 먼저 해 본다

요즘 LLM은 사전학습만으로도 많은 일을 해내기 때문에, 학습 전에 프롬프트에 지시와 예시를 넣어 보는 게 먼저다. 최신 자료가 필요하면 문서를 찾아 붙이는 RAG가 더 맞다. 이렇게 해도 말투나 출력 형식이 계속 흔들리거나, 같은 유형의 작업을 대량으로 반복할 때 파인튜닝으로 넘어간다.

분야가 멀면 효과가 줄어든다

전이는 원래 학습한 분야와 새 작업이 비슷할수록 잘 된다. 영어로만 사전학습한 모델은 한국어 작업에서 효과가 작고, 분야가 너무 다르면 오히려 처음부터 학습한 것보다 못할 수도 있다. 이를 부정적 전이라고 한다.

새 데이터로 너무 세게 학습시키면 원래 알던 능력을 잊어버리기도 한다. 학습률을 낮게 두거나, LoRA처럼 원래 가중치를 건드리지 않는 방식을 쓰거나, 일반 데이터를 조금 섞어 학습하면 이 문제를 줄일 수 있다.

내 데이터가 적을 때 공개 모델을 맞춰 쓴다

가장 흔한 건 공개된 사전학습 모델을 받아 내 데이터로 조금만 더 학습시키는 방식이다. 데이터가 수백~수천 건뿐이어도 쓸 만한 모델을 얻을 수 있어서, 이미지와 텍스트 작업 대부분이 이렇게 시작한다.