자기 지도 학습은 사람이 붙인 정답(라벨) 없이 데이터 일부를 가리고 맞히게 해서 문제와 정답을 스스로 만드는 학습 방법이다. 라벨을 붙이는 비용이 들지 않아 LLM 사전학습의 기본 방식이 됐고, 라벨 없는 분야별 문서가 많을 때 모델에 그 분야를 익히게 하는 데 쓴다.
| 방식 | 정답은 어디서 | 예 |
|---|---|---|
| 지도 학습 | 사람이 붙인 라벨 | 스팸 분류, 감성 분석 |
| 비지도 학습 | 정답 없이 구조만 찾음 | 군집화 |
| 자기 지도 학습 | 데이터 일부를 가려서 만듦 | 다음 토큰 예측, 빈칸 맞히기 |
예를 들어 문장의 다음 단어를 맞히게 하면 원래 글이 그대로 정답이 된다.
무엇을 가리고 맞히게 하느냐에 따라 모델이 잘하는 일이 달라진다. 텍스트에서는 다음 토큰 예측으로 학습한 모델이 글 생성에 강하고, 빈칸 맞히기로 학습한 모델은 문장 이해와 분류·검색에 강하다. 같은 원리를 이미지와 음성에도 쓴다.
| 방식 | 하는 일 | 대표 예 |
|---|---|---|
| 다음 토큰 예측 | 앞 내용을 보고 다음 단어 맞히기 | GPT 계열, Llama |
| 가려진 단어 맞히기 | 문장 중간의 빈칸 채우기 | BERT |
| 가려진 이미지 복원 | 이미지 조각을 가린 뒤 복원 | MAE |
| 음성 표현 학습 | 가려진 음성 구간 맞히기 | wav2vec |
사용자가 직접 쓰게 되는 대표적인 경우는 지속 사전학습이다. 의료·법률·사내 문서처럼 범용 모델이 잘 모르는 분야의 글을 모은 뒤, 라벨 없이 원문 그대로 기존 모델을 더 학습시킨다.
HuggingFace에서는 DataCollatorForLanguageModeling이 입력 텍스트로 정답을 자동으로 만들어 준다. GPT형 모델이면 mlm=False, BERT형 모델이면 mlm=True로 설정한다.
| 순서 | 할 일 |
|---|---|
| 1. 데이터 준비 | 분야 문서를 모으고 중복·잡음 제거 |
| 2. 지속 사전학습 | 라벨 없는 원문으로 학습 |
| 3. 미세조정 | 적은 양의 라벨 데이터로 원하는 작업 학습 |
자기 지도 학습으로 모델은 지식과 언어 감각을 얻지만, 질문에 답하는 법까지 배우지는 않는다. 그래서 사전학습만 거친 모델은 질문에 답하기보다 글을 이어 쓰려 한다. 또 새 분야 데이터만 오래 학습하면 원래 갖고 있던 일반 능력이 떨어질 수 있으므로, 일반 텍스트를 섞거나 학습량을 조절한다.
| 상황 | 알맞은 선택 |
|---|---|
| 분야 원문이 많고 모델이 용어를 모름 | 지속 사전학습 |
| 라벨 데이터가 조금 있고 할 작업이 분명함 | 바로 미세조정 |
| 최신 정보나 사내 문서에 대한 질의응답 | RAG가 더 싸고 빠름 |
처음부터 자기 지도 학습을 돌리는 일은 드물다. 이 방식으로 사전학습된 모델을 가져와 그대로 쓰거나, 분야 문서로 조금 더 학습시킨 뒤 적은 라벨로 미세조정하는 게 흔한 방식이다.
| 어디서 | 어떻게 쓰나 |
|---|---|
| 분야 특화 LLM | 의료·법률·사내 문서 원문으로 지속 사전학습한 뒤, 소량의 라벨 데이터로 원하는 작업을 미세조정 |
| 문서 검색·분류 | 빈칸 맞히기로 학습한 BERT형 모델을 가져와 임베딩·분류 모델의 출발점으로 사용 |
| 이미지·음성 작업 | MAE·wav2vec처럼 미리 학습된 모델에 적은 라벨을 더해 이미지 분류나 음성 인식을 학습 |