모델

라마 4

Llama 4 (Meta)

Llama 4는 메타가 2025년 4월 공개한 4세대 오픈 웨이트 AI 모델로, 글과 이미지를 함께 이해한다. API로만 쓸 수 있는 ChatGPT·Claude와 달리 모델 파일을 내려받아 내 서버에서 돌리거나 자체 모델로 고쳐 쓰고 싶을 때 고른다.

모델특징이럴 때 쓴다
Scout가벼움, H100 GPU 한 장에 올라감아주 긴 문서를 통째로 읽기
Maverick더 강력함코딩·추론 같은 어려운 작업

크지만 일부만 켜서 빠르다

Llama 시리즈 가운데 처음으로 전문가 혼합(MoE) 방식을 썼다. 보통의 AI는 답할 때 모델 전체를 다 가동하지만, MoE는 질문 성격에 맞는 일부 '전문가'만 골라 켠다.

그래서 모델 전체는 크지만 한 번 답할 때 드는 계산량은 작다. 큰 모델의 똑똑함과 작은 모델의 빠른 속도·낮은 비용을 함께 노린 설계다.

글과 이미지를 처음부터 같이 배웠다

이미지 인식을 나중에 덧붙인 게 아니라, 학습 단계부터 텍스트와 이미지를 한 흐름으로 섞어 배운 네이티브 멀티모달 모델이다. 사진을 보고 설명하거나 화면 속 글자를 읽는 작업을 자연스럽게 처리한다.

내려받아 돌리고, 고쳐 쓴다

모델 파일은 llama.com이나 Hugging Face에서 직접 받을 수 있다. 하려는 일에 맞춰 방법을 고르면 된다.

하려는 일방법
로컬에서 가볍게 시험ollama run llama4 한 줄로 실행
회사 서비스에 붙이기메타의 Llama API나 직접 띄운 서버로 호출
사내 데이터에 맞추기파인튜닝
더 작은 모델 만들기Llama 4 출력으로 학습시키는 증류

오픈 웨이트라서 이렇게 직접 손볼 수 있어, 자체 모델을 만들려는 팀이 출발점으로 자주 고른다.

점수와 긴 문맥은 직접 확인

출시 직후 일부 벤치마크 점수가 실제로 써 본 느낌과 다르다는 논란이 있었다. 메타는 점수 조작 의혹은 부인했지만, 환경에 따라 성능이 엇갈린다는 점은 인정했다.

화제가 된 1,000만 토큰 수준의 초장문 컨텍스트도 길어질수록 품질이 떨어질 수 있다. 도입하기 전에 내 작업으로 직접 검증해 보는 게 가장 확실하다.

데이터를 밖으로 내보내기 싫을 때 직접 띄운다

가장 흔한 건 자체 서버에 띄워 사내 데이터를 다루는 방식이다. 외부 API로 데이터를 보내지 않아도 되고, 필요하면 파인튜닝으로 우리 업무에 맞게 고칠 수 있어서다.

어디서어떻게 쓰나
사내 문서 검색·챗봇자체 GPU 서버에 Scout를 띄우고, 긴 규정·매뉴얼을 넣어 질문에 답하게 한다
로컬 개발·시험Ollama로 내 장비에서 돌려 보며 프롬프트와 품질을 먼저 확인한다
자체 모델 개발사내 데이터로 파인튜닝하거나, 증류로 더 작고 싼 전용 모델을 만든다
이미지가 섞인 업무스크린샷·문서 사진 속 글자를 읽고 내용을 정리하게 한다
#Meta#Llama#MoE#오픈웨이트
참고 자료
관련 영상
← AI Wiki에서 더 보기
updated at 2026-10-20