라마

Meta가 공개한 오픈 웨이트 LLM 시리즈. 오픈소스 LLM 생태계의 기반이 되었으며 파인튜닝, 양자화, 모델 병합 연구의 주요 대상이다.

오픈 웨이트가 왜 특별한가

대부분의 강력한 AI 모델은 회사가 운영하는 서버 안에만 존재한다. 우리는 API로 질문을 보내고 답을 받을 뿐, 모델 자체를 손에 쥘 수는 없다. Llama가 판을 바꾼 지점이 바로 여기다. Meta는 학습이 끝난 모델의 가중치(weight), 즉 모델이 학습으로 얻은 지식 덩어리를 통째로 내려받을 수 있게 공개했다. 내 노트북이나 회사 서버, 인터넷이 끊긴 폐쇄망에서도 돌릴 수 있다는 뜻이다.

이게 개발자에게 왜 중요하냐면, 남의 서버에 데이터를 보내지 않아도 되고, 사용량이 늘어도 API 요금 폭탄을 걱정할 필요가 없으며, 무엇보다 모델을 내 입맛대로 뜯어고칠 수 있기 때문이다. 오픈소스 진영의 파인튜닝 실험, 양자화 연구, 모델 병합 같은 시도 대부분이 Llama를 출발점으로 삼은 이유다. Llama는 하나의 모델이라기보다, 그 위에 수많은 파생 모델이 자라나는 토양에 가깝다.

실제로 어떻게 쓰나

가장 쉬운 길은 Ollama 같은 도구다. ollama run llama3 한 줄이면 모델이 자동으로 내려받아지고 곧바로 로컬에서 대화를 시작할 수 있다. 이때 내려받는 파일이 GGUF 형식인데, 이게 요즘 로컬 실행의 사실상 표준이다. 원본 모델은 수십 GB라 일반 PC에서 버겁지만, 양자화(quantization)를 거치면 정밀도를 살짝 낮추는 대신 크기를 크게 줄여서 평범한 게이밍 PC에서도 돌아간다.

회사 서비스에 붙일 때는 vLLM으로 서빙해서 OpenAI와 똑같은 형태의 API를 자체 서버에 세우는 방식을 많이 쓴다. 기존에 OpenAI로 짜둔 코드를 주소만 바꿔 그대로 재사용할 수 있어 갈아타기가 수월하다. 특정 분야에 맞춰 성능을 끌어올리고 싶으면 LoRA나 QLoRA로 파인튜닝한다. 모델 전체를 다시 학습시키는 게 아니라 작은 보조 층만 얹어 조정하는 방식이라, GPU 한 장으로도 법률 문서나 의료 상담 같은 도메인 특화 모델을 만들어낼 수 있다.

버전의 흐름과 짚어둘 점

2023년 Llama 2가 상업적 사용까지 허용하며 생태계에 불을 지폈고, 2024년 Llama 3로 성능이 크게 올라섰다. 2025년 4월 공개된 Llama 4는 처음으로 전문가 혼합(MoE) 구조를 채택했는데, 질문마다 전체 모델이 아니라 관련 있는 일부 '전문가'만 골라 쓰는 방식이라 덩치에 비해 빠르게 돈다. Scout와 Maverick 두 모델이 공개됐고, 가장 큰 Behemoth는 예고만 된 뒤 지금까지 오픈 웨이트로 풀리지 않았다.

다만 오픈 웨이트라고 무조건 최고 성능인 건 아니라는 점은 기억해야 한다. Llama 4는 출시 당시 벤치마크 논란을 겪었다. Meta가 순위표(LMArena)에 올린 건 사람 평가자가 선호하도록 대화체로 다듬은 실험 버전이었는데, 정작 누구나 내려받을 수 있는 공개 가중치는 그만큼의 점수가 나오지 않았다. 실제로 쓸 모델을 고를 때는 홍보용 순위표 숫자보다 내 작업에 직접 돌려본 결과를 믿는 편이 안전하다.