임베딩젬마 2

텍스트·코드·이미지·영상·오디오를 하나의 768차원 벡터 공간에 넣는 구글의 작은 오픈 임베딩 모델로, 글로 물어 사진이나 음성 메모까지 찾을 수 있다. 휴대폰·노트북에서 인터넷 없이 여러 형식의 자료를 한꺼번에 검색하거나 로컬 RAG를 만들 때 쓴다.

고양이 사진, '고양이'라는 단어, 고양이 울음소리가 서로 가까운 곳에 놓이는 식이다. Apache 2.0 라이선스라 상업용으로도 쓸 수 있다.

필요한 부품만 골라 싣는다

텍스트 모델 하나에 비전·오디오 인코더가 따로 붙는 구조라, 필요 없는 부분은 빼고 쓸 수 있다. 문서·코드 검색만 하면 텍스트 버전, 사진 검색까지 하면 비전을 더하는 식이다. 올라마에서는 이 조합이 크기별 태그로 나뉘어 있다.

파라미터 수 기준. 양자화하면 픽셀 11 프로에서 텍스트만은 약 191MB, 전체는 약 567MB의 메모리로 돈다.

올라마로 바로 써 보기

노트북에서는 ollama pull embeddinggemma-2로 받은 뒤 임베딩 API에 문장을 보내면 벡터가 나온다. 모델 파일은 허깅페이스의 google/embeddinggemma-2에서도 받을 수 있다. 데이터가 많으면 벡터 길이를 768에서 256이나 128로 줄여 저장 공간을 아낄 수 있는데, 작은 데이터셋에서는 256으로 줄여도 검색 품질이 눈에 띄게 떨어지지 않았다는 실사용 후기가 있다.

안전 튜닝은 없다

생성 모델이 아니라 사전학습만 한 임베딩 모델이라, 정렬이나 출력 검열 같은 사후 안전 튜닝을 거치지 않았다. 안전 조치는 학습 데이터 필터링이 전부이므로, 사용자 콘텐츠를 다루는 서비스라면 검색 결과를 걸러 내는 단계를 따로 두는 게 좋다.

이럴 때 고른다

가장 흔한 쓰임은 기기 안에서 끝나는 검색이다. 데이터를 서버로 보내지 않아야 하거나, 여러 형식의 자료를 한 인덱스로 묶어야 할 때 고른다.

젬마 4와 토크나이저·오디오 인코더를 공유하므로 둘을 함께 올리면 전체 메모리 사용량이 줄어든다. 한 번에 넣을 수 있는 입력은 오디오 약 5.5분, 이미지 29장, 영상 프레임 58장 정도다.