Llama 4는 메타가 2025년 4월 공개한 4세대 오픈 웨이트 AI 모델로, 글과 이미지를 함께 이해한다. API로만 쓸 수 있는 ChatGPT·Claude와 달리 모델 파일을 내려받아 내 서버에서 돌리거나 자체 모델로 고쳐 쓰고 싶을 때 고른다.
| 모델 | 특징 | 이럴 때 쓴다 |
|---|---|---|
| Scout | 가벼움, H100 GPU 한 장에 올라감 | 아주 긴 문서를 통째로 읽기 |
| Maverick | 더 강력함 | 코딩·추론 같은 어려운 작업 |
Llama 시리즈 가운데 처음으로 전문가 혼합(MoE) 방식을 썼다. 보통의 AI는 답할 때 모델 전체를 다 가동하지만, MoE는 질문 성격에 맞는 일부 '전문가'만 골라 켠다.
그래서 모델 전체는 크지만 한 번 답할 때 드는 계산량은 작다. 큰 모델의 똑똑함과 작은 모델의 빠른 속도·낮은 비용을 함께 노린 설계다.
이미지 인식을 나중에 덧붙인 게 아니라, 학습 단계부터 텍스트와 이미지를 한 흐름으로 섞어 배운 네이티브 멀티모달 모델이다. 사진을 보고 설명하거나 화면 속 글자를 읽는 작업을 자연스럽게 처리한다.
모델 파일은 llama.com이나 Hugging Face에서 직접 받을 수 있다. 하려는 일에 맞춰 방법을 고르면 된다.
| 하려는 일 | 방법 |
|---|---|
| 로컬에서 가볍게 시험 | ollama run llama4 한 줄로 실행 |
| 회사 서비스에 붙이기 | 메타의 Llama API나 직접 띄운 서버로 호출 |
| 사내 데이터에 맞추기 | 파인튜닝 |
| 더 작은 모델 만들기 | Llama 4 출력으로 학습시키는 증류 |
오픈 웨이트라서 이렇게 직접 손볼 수 있어, 자체 모델을 만들려는 팀이 출발점으로 자주 고른다.
출시 직후 일부 벤치마크 점수가 실제로 써 본 느낌과 다르다는 논란이 있었다. 메타는 점수 조작 의혹은 부인했지만, 환경에 따라 성능이 엇갈린다는 점은 인정했다.
화제가 된 1,000만 토큰 수준의 초장문 컨텍스트도 길어질수록 품질이 떨어질 수 있다. 도입하기 전에 내 작업으로 직접 검증해 보는 게 가장 확실하다.
가장 흔한 건 자체 서버에 띄워 사내 데이터를 다루는 방식이다. 외부 API로 데이터를 보내지 않아도 되고, 필요하면 파인튜닝으로 우리 업무에 맞게 고칠 수 있어서다.
| 어디서 | 어떻게 쓰나 |
|---|---|
| 사내 문서 검색·챗봇 | 자체 GPU 서버에 Scout를 띄우고, 긴 규정·매뉴얼을 넣어 질문에 답하게 한다 |
| 로컬 개발·시험 | Ollama로 내 장비에서 돌려 보며 프롬프트와 품질을 먼저 확인한다 |
| 자체 모델 개발 | 사내 데이터로 파인튜닝하거나, 증류로 더 작고 싼 전용 모델을 만든다 |
| 이미지가 섞인 업무 | 스크린샷·문서 사진 속 글자를 읽고 내용을 정리하게 한다 |