젬마

Google DeepMind가 Gemini 연구를 바탕으로 공개한 오픈 웨이트 경량 모델 시리즈로, Google 서비스로만 쓰는 Gemini와 달리 모델 파일을 받아 내 PC·휴대폰·서버에서 직접 돌리거나 내 데이터로 파인튜닝해야 할 때 쓴다. 데이터를 밖으로 보내지 않아도 되고, 크기가 작아 노트북이나 스마트폰에서도 돌아간다.

크기는 기기에 맞춰 고른다

Gemma는 작은 것부터 수십억 단위(최대 27B 수준)까지 여러 크기로 나온다. 클수록 똑똑하지만 메모리를 더 많이 먹는다. 최신 세대는 글뿐 아니라 이미지 이해도 지원한다.

양자화(압축) 버전을 쓰면 같은 크기라도 더 적은 메모리로 돌릴 수 있다. 대신 품질이 조금 떨어질 수 있다.

Ollama 한 줄이면 로컬에서 바로 실행

가장 쉬운 방법은 Ollama를 설치하고 ollama run gemma3를 입력하는 것이다. 설치 없이 먼저 써 보고 싶으면 Google AI Studio에서 바로 테스트할 수 있고, 모델 파일은 Hugging Face나 Kaggle에서 받는다. 순서는 AI Studio로 맛보기 → Ollama로 로컬 실행 → 필요하면 파인튜닝으로 가면 된다.

파인튜닝으로 내 일에 맞춘다

크기가 작아서 LoRA처럼 일부만 학습하는 방식으로 적은 비용에 도메인 특화 모델을 만들기 쉽다. 사내 용어가 많은 문서 분류나 정해진 형식의 답변처럼 범위가 좁은 작업일수록 효과가 크다. Keras나 Hugging Face 도구로 학습 코드를 빠르게 짤 수 있다.

언제 쓰고 언제 안 쓰나

개인정보 때문에 데이터를 밖으로 보낼 수 없거나, 인터넷 없이 돌아가야 하거나, 대량 작업에서 API 비용을 아끼고 싶을 때 쓴다. 반대로 아주 어려운 추론이나 긴 문서 분석이 필요하면 Gemini 같은 대형 모델이 낫다. 연구용과 상업용 모두 허용하지만 Google이 정한 이용 조건이 따로 있으니, 서비스에 넣기 전에 해당 버전의 라이선스를 확인해야 한다.

로컬 비서와 사내 맞춤 모델로 주로 쓴다

가장 흔한 건 내 컴퓨터에 띄워 두는 로컬 AI로 쓰는 방식이다. 데이터를 밖으로 보낼 수 없는 일은 내 서버에 올리고, 범위가 좁은 업무는 파인튜닝해서 전용 모델로 만든다.