AI Wiki · 분야별 키워드
모델
GPT·Claude·Gemini 같은 대규모 언어 모델은 AI의 "두뇌"에 해당합니다. 이 분야의 용어는 크게 세 갈래입니다. 모델이 글을 이해하고 생성하는 원리(트랜스포머, 어텐션, 토큰), 모델을 만들고 다듬는 과정(사전학습, 파인튜닝, RLHF, LoRA), 그리고 모델을 가볍고 빠르게 만드는 기술(양자화, 증류, MoE)입니다. LLM 항목에서 출발해 트랜스포머로 내려가면 뉴스에서 스치던 용어들이 하나의 이야기로 연결됩니다. 멀티모달·추론 모델처럼 최근 모델들이 어디로 진화하고 있는지 보여주는 키워드도 함께 모았습니다.
- 강화학습 Reinforcement Learning정답을 알려주는 대신 결과에 점수(보상)만 주고, 그 점수가 커지도록 행동을 스스로 고치게 하는 학습 방법이다. 정답 데이터는 만들기 어려워도 결과가 좋은지 나쁜지는 가릴 수 있을 때 쓰며, LLM에서는 사람 선호 맞추기(RLHF)와 자동 채점이 되는 추론 모델 학습에 쓴다.
- 경사 하강법 Gradient Descent경사 하강법은 모델이 틀린 정도(손실)가 줄어드는 방향, 즉 기울기의 반대 방향으로 파라미터를 조금씩 고쳐 가는 최적화 방법이다. 딥러닝 모델을 학습하거나 파인튜닝할 때 거의 항상 이 방법이 돌아간다.
- 과적합 Overfitting모델이 훈련 데이터를 이해하지 않고 외워서 처음 보는 데이터에서 성능이 떨어지는 현상으로, 너무 단순해서 훈련 데이터조차 못 맞히는 과소적합과는 반대다. 모델을 학습하거나 파인튜닝할 때 검증 성능으로 꼭 확인해야 하는 문제다.
- 그래니트 IBM GraniteIBM이 기업용으로 만든 오픈소스 AI 모델 패밀리로, 최고 성능보다 기업이 마음 놓고 자체 운영하는 것을 목표로 한다. 상업 이용이 자유로운 라이선스에 크기도 작아서, 기밀 데이터를 외부 API로 보내기 곤란해 회사 서버나 노트북에서 직접 돌려야 할 때 쓴다.
- 그록 Grok (xAI)Grok은 일론 머스크의 xAI가 만든 AI 챗봇이자 언어 모델로, 답할 때마다 X(옛 트위터)와 웹을 실시간으로 검색해 방금 올라온 소식까지 반영한다. 학습이 끝난 시점까지만 아는 다른 챗봇과 달리, 속보·여론·화제글 정리처럼 최신 정보가 필요한 질문에 먼저 떠올릴 만한 모델이다.
- 그록 4.7 Grok 4.7 (xAI)그록 4.7은 xAI가 Grok 4.6의 뒤를 이어 내놓은 플래그십 추론 모델로, 스스로 검증하는 능력과 긴 컨텍스트를 다루는 능력을 키워 긴 작업을 맡겨도 중간에 흐트러지지 않게 만들었다. 몇 시간씩 도는 코딩 에이전트나 문서·프레젠테이션 작성처럼 오래 이어지는 일에 쓴다.
- 그룹 쿼리 어텐션 Grouped-Query Attention (GQA)쿼리 헤드는 그대로 두고 키·값(K/V) 헤드 수만 줄여 여러 쿼리 헤드가 K/V 하나를 같이 쓰게 하는 어텐션 방식으로, 긴 문맥이나 큰 배치에서 KV 캐시 메모리를 아끼고 생성 속도를 높일 때 쓴다. 품질은 멀티헤드 어텐션(MHA)에, 속도는 멀티쿼리 어텐션(MQA)에 가깝다.
- 글로벌 워크스페이스 Global Workspace Theory글로벌 워크스페이스는 여러 전문 모듈 가운데 경쟁에서 뽑힌 소수의 정보만 작은 공용 공간에 올라가 시스템 전체에 방송된다고 보는 의식 이론으로, 1988년 버나드 바스가 내놓았다. 지금은 여러 모듈이 결과를 나눠 쓰는 구조를 설계하거나 언어 모델 내부를 해석할 때도 쓰는 틀이다.
- 네모트론 NVIDIA Nemotron네모트론(Nemotron)은 NVIDIA가 만든 오픈 모델 제품군으로, 가중치뿐 아니라 학습 데이터와 학습 레시피까지 공개되어 있어 배포하기 전에 직접 검증할 수 있다. 폐쇄형 API에 기대지 않고 내 인프라에서 AI 에이전트를 돌리거나 특정 분야에 맞게 파인튜닝하고 싶을 때 쓴다.
- 네모트론 3 울트라 NVIDIA Nemotron 3 UltraNVIDIA Nemotron 3 제품군에서 맨 위 등급인 오픈 모델로, 전체 550B 가운데 토큰마다 55B만 써서 같은 수준의 지능을 훨씬 빠르게 낸다. 도구를 수백 번씩 부르며 오래 도는 에이전트에서 계획, 깊은 리서치, 지휘를 빠르고 싸게 맡길 때 쓴다.
- 노바 2 Amazon Nova 2노바 2는 아마존이 자기 클라우드(AWS)에서 쓰라고 만든 멀티모달 AI 모델 계열로, 텍스트·이미지·영상·음성·문서를 한 번에 다루며 최고 점수보다 같은 성능을 더 싸게를 앞세운다. 2025년 말에 나왔고 용도별로 Lite·Pro·Sonic 세 가지로 나뉘어, 이미 AWS를 쓰고 있고 비용과 속도가 중요할 때 고르기 좋다.
- 뉴로심볼릭 AI Neurosymbolic AI데이터에서 패턴을 배우는 신경망과 규칙대로 따지는 기호 논리를 한 시스템에 묶어, 인식은 신경망이, 판단은 논리가 맡는 AI 방식이다. 조건이 많이 얽혀 정답을 규칙으로 판정할 수 있는 문제나, 틀린 답이 큰 문제가 되는 서비스에 쓴다.
- 대규모 언어 모델 Large Language Model엄청난 양의 텍스트를 보며 다음에 올 토큰을 맞히도록 학습한 AI 모델로, 글쓰기·요약·번역·코드 작성처럼 글로 하는 대부분의 작업에 쓴다. 다만 최신 정보나 외부 작업은 혼자 못 해서 바깥에서 자료와 도구를 붙여 쓴다.
- 디시전 모델 Non-Autoregressive Decision Model디시전 모델은 글을 쓰지 않고 정해진 선택지 가운데 하나를 고르거나 점수·확률만 돌려주는 AI 모델로, 답을 토큰 하나씩 이어 쓰는 대신 허용된 답 전체를 한 번에 채점하기 때문에 결과가 늘 스키마 안의 값으로 나온다. 에이전트가 라우팅, 도구 선택, 분류, 가드레일처럼 빠르고 정형화된 판단을 내려야 할 때 LLM 대신 쓴다.
- 디퓨전 모델 Diffusion Model잡음에서 출발해 노이즈를 한 겹씩 걷어내며 이미지·영상·음성을 만드는 생성 모델로, 글로 원하는 그림이나 영상을 만드는 생성 AI 대부분이 이 방식으로 돌아간다. 한 번에 완성작을 그리는 방식보다 배우기 쉬워서 학습이 안정적이고 결과물도 다양하게 나온다.
- 딥러닝 Deep Learning신경망 층을 여러 겹 쌓아, 무엇이 중요한 특징인지 모델이 데이터에서 직접 알아내게 하는 기계학습 방법이다. 사람이 특징을 하나하나 설계하던 단계를 없앴고, 이미지·음성·글처럼 규칙을 사람이 정하기 어려운 데이터를 다룰 때 쓴다.
- 딥시크 DeepSeek중국 항저우의 AI 기업이 만드는 오픈소스 언어 모델 시리즈로, 최상위 모델에 가까운 성능을 훨씬 적은 비용으로 내고 가중치를 MIT 라이선스로 공개해 상업적으로도 자유롭게 쓸 수 있다. 싼 API가 필요하거나, 데이터를 밖으로 보낼 수 없어 내 컴퓨터에서 직접 모델을 돌려야 할 때 고른다.
- 딥시크 V4 DeepSeek V4중국 DeepSeek가 2026년 4월 MIT 라이선스로 공개한 오픈웨이트 언어 모델로, 100만 토큰의 긴 맥락을 아주 싸게 처리한다. 큰 코드베이스나 긴 문서를 통째로 넣어야 하는 코딩 도구와 오래 도는 에이전트에서 비용을 아낄 때 쓰고, 가중치를 내려받아 직접 돌릴 수도 있다.
- 딥시크 V4.1 플래시 DeepSeek V4.1 Flash딥시크 V4.1 플래시는 DeepSeek이 2026년 9월 MIT 라이선스로 공개한 오픈 웨이트 모델로, 텍스트와 이미지를 입력으로 받는다. 턴마다 대화·파일·도구 결과를 전부 다시 읽어 오래 돌릴수록 비싸지는 코딩 에이전트를 싸고 빠르게 돌릴 때 쓴다.
- 라마 LlamaMeta가 가중치를 누구나 내려받을 수 있게 공개한 오픈 웨이트 LLM 시리즈로, API 전용 모델과 달리 내 PC·회사 서버·폐쇄망에서 데이터를 밖으로 보내지 않고 돌리거나 내 분야에 맞게 파인튜닝하고 싶을 때 쓴다.
- 라마 4 Llama 4 (Meta)Llama 4는 메타가 2025년 4월 공개한 4세대 오픈 웨이트 AI 모델로, 글과 이미지를 함께 이해한다. API로만 쓸 수 있는 ChatGPT·Claude와 달리 모델 파일을 내려받아 내 서버에서 돌리거나 자체 모델로 고쳐 쓰고 싶을 때 고른다.
- 레카 RekaReka AI가 텍스트·이미지·영상·오디오를 처음부터 함께 학습한 멀티모달 모델 시리즈다. 영상 장면 설명과 음성 받아쓰기를 한 번에 맡기거나, 영상·이미지를 적은 비용으로 대량 처리하거나, 기기에서 직접 돌려야 할 때 쓴다.
- 롱 컨텍스트 Long ContextLLM이 수십만~수백만 토큰을 조각내지 않고 통째로 받아 처리하는 능력이다. 긴 코드베이스, 계약서, 책 한 권처럼 전체를 엮어 봐야 하는 자료를 한 번에 넣고 질문할 때 쓴다. 예전처럼 잘라서 따로 요약한 뒤 합칠 필요가 없다.
- 루프형 트랜스포머 Looped Transformer (Recurrent Depth)같은 트랜스포머 층을 여러 번 반복해 통과시켜, 가중치는 작은 모델만큼만 저장하면서 더 깊은 모델처럼 계산하는 구조다. 메모리는 빠듯한데 작은 모델의 품질을 끌어올리고 싶을 때 쓰며, 일반 트랜스포머와 달리 저장 공간은 줄지만 계산량은 반복한 만큼 늘어난다.
- 머신러닝 Machine Learning사람이 조건문으로 규칙을 짜는 대신, 데이터를 주고 패턴을 컴퓨터가 스스로 찾게 해 예측하는 AI 기술이다. 딥러닝과 LLM도 여기 속하지만, 표 형태 데이터로 이탈·사기·수요를 예측할 때는 지금도 클래식 머신러닝이 가장 좋은 선택인 경우가 많다.
- 머큐리 Mercury (Inception Labs, Diffusion LLM)Mercury는 Inception Labs가 만든 디퓨전 LLM(dLLM)으로, GPT나 Claude처럼 왼쪽부터 한 토큰씩 쓰지 않고 답 전체를 한꺼번에 다듬어 내서 같은 GPU에서도 훨씬 빠르다. 실시간 자동완성, 음성 에이전트, 대량 반복 호출처럼 속도와 비용이 중요한 작업에 쓴다.
- 멀티 토큰 예측 Multi-Token Prediction (MTP)언어 모델에 작은 예측 모듈을 덧붙여 다음 토큰 하나가 아니라 그 뒤의 토큰 여러 개까지 함께 예측하게 만드는 기법이다. 학습할 때는 같은 문맥에서 정답 신호를 더 주는 보조 과제로 쓰고, 추론할 때는 초안을 미리 써서 생성 속도를 높이는 데 쓴다.
- 멀티모달 Multimodal AI이미지, 음성, 영상, PDF 같은 여러 형태의 입력을 모델 하나가 직접 이해하는 AI다. 예전처럼 이미지를 따로 글로 바꿔 넘길 필요가 없어서, 스크린샷을 보여 주며 질문하거나 녹음·문서를 통째로 넣고 요약을 받을 때 쓴다.
- 모델 병합 Model Merging같은 베이스 모델에서 파인튜닝한 모델 여러 개의 가중치를 계산으로 합쳐 추가 학습 없이 새 모델 하나를 만드는 기법이다. 코딩용·한국어용처럼 따로 특화한 능력을 한 모델에 모을 때 쓰며, 여러 모델을 함께 돌리는 앙상블과 달리 결과물이 모델 하나라 추론 비용이 늘지 않는다.
- 모델 증류 Model Distillation큰 모델(Teacher)의 답과 풀이 방식을 작은 모델(Student)에게 가르쳐, 싸고 빠르면서 특정 작업은 비슷하게 잘하는 작은 모델을 새로 만드는 기법이다. 같은 유형의 요청을 대량으로 처리하는데 큰 모델의 비용이나 속도가 부담될 때 쓰며, 기존 모델을 내 데이터에 맞추는 파인튜닝이나 숫자 정밀도만 낮추는 양자화와 달리 더 작은 새 모델이 결과로 나온다.
- 문드림 3.1 Moondream 3.1 (Vision-Language MoE)Moondream이 만든 오픈 웨이트 비전-언어 모델로, 이미지를 보고 박스·점·마스크처럼 위치가 담긴 구조화된 답을 돌려준다. 전체 9B 중 2B만 켜지는 MoE 구조라서, 사진 속 물체를 빠르고 싸게 찾거나 세야 할 때 쓴다.
- 뮤즈 스파크 1.3 Muse Spark 1.3 (Meta)뮤즈 스파크 1.3은 Meta Superintelligence Labs가 2026년 9월 2일 공개한 멀티모달 추론 모델이다. 한 번 답하고 끝내지 않고 계획을 세우고, 도구를 부르고, 결과를 확인하며 작업을 끝까지 끌고 가도록 다듬어서 저장소 단위 코딩과 긴 에이전트 작업을 맡길 때 쓴다.
- 뮤즈 스파크 오픈 Muse Spark Open (Meta)메타가 가중치를 공개한 Muse 시리즈의 대형 오픈웨이트 모델로, 여러 파일에 걸친 리팩토링이나 긴 디버깅 같은 코딩·에이전트 작업을 내 서버나 원하는 클라우드에서 직접 돌리고 싶을 때 쓴다. API로만 쓸 수 있는 Muse Spark 1.x와 달리 가중치를 받아 직접 운영하고 고칠 수 있다.
- 뮤즈 원더 Muse Wonder (Meta)뮤즈 원더는 Meta 슈퍼인텔리전스 랩이 2026년 10월에 처음 내놓은 프론티어급 모델이다. 저지연 경량 모델 뮤즈 스파크와 달리, 사용자를 오래 기억하고 막혀도 포기하지 않아야 하는 몇 시간짜리 에이전트 작업이나 코딩에 쓴다.
- 미니맥스 MiniMax중국 AI 회사 MiniMax가 만든 모델 시리즈로, 개발자가 주로 쓰는 건 100만 토큰 문맥의 오픈웨이트 코딩·에이전트 모델 M3이고 음성·음악·영상 생성 모델도 함께 낸다. 큰 코드베이스나 긴 문서, 화면 캡처·녹화를 한 번에 넣어 처리해야 할 때 주로 고른다.
- 미모 Xiaomi MiMo스마트폰·가전 회사 샤오미가 만든 오픈소스 언어 모델 계열로, 코딩과 에이전트 작업에 강하면서도 비슷한 성능의 해외 상용 모델보다 훨씬 싸다. 그래서 코딩 도구에 값싼 모델을 붙이고 싶을 때 많이 쓴다.
- 미모 v2.5 Xiaomi MiMo v2.5 Pro (UltraSpeed)샤오미가 MIT 라이선스로 공개한 오픈소스 모델 시리즈로, 100만 토큰 문맥을 다루며 몇 시간씩 도구를 부르는 코딩 에이전트를 싸게 돌릴 때 쓴다. 코딩이나 오래 도는 에이전트에는 Pro를, 이미지·영상·음성을 같이 넣어야 하면 작은 MiMo-V2.5를 고르면 된다.
- 미모 V2.6 프로 Xiaomi MiMo V2.6 Pro미모 V2.6 프로는 샤오미가 MIT 라이선스로 공개한 V2.6 시리즈의 오픈 웨이트 기준 모델로, 100만 토큰 문맥과 이미지·오디오·비디오 입력을 지원한다. 질문마다 일부만 계산하는 구조라 코딩 에이전트나 오래 걸리는 작업을 싼 토큰 가격으로 돌릴 때 쓰며, 단순 대량 작업은 Flash, 빠른 응답이 필요하면 Pro-UltraSpeed를 고른다.
- 미스트랄 Mistral프랑스 회사 Mistral AI가 만드는 LLM 시리즈로, 가중치를 공개한 오픈 웨이트 모델이 많아 내 서버나 노트북에서 직접 돌릴 수 있다. 크기에 비해 성능이 좋아서 비용을 아끼거나 모델을 직접 서버에 올려 써야 할 때 자주 고른다.
- 미스트랄 라지 4 Mistral Large 4 (Mistral AI)미스트랄 라지 4는 프랑스 Mistral AI의 1조 파라미터급 멀티모달 추론 모델이다. 질문마다 필요한 일부만 계산해 실제 연산 비용은 전작과 비슷하고, 가중치 공개도 예정돼 있다. 미국·중국 밖에서 직접 운영할 최상위급 모델이 필요할 때, 특히 보안 감사나 업무 자동화 에이전트에 검토한다.
- 미스트랄 미디엄 3.5 Mistral Medium 3.5프랑스 Mistral AI가 따로 내던 대화·추론·코딩 모델을 하나로 합친 플래그십 오픈 웨이트 모델이다. 작업마다 모델을 바꿔 끼우지 않고 빠른 채팅부터 오래 도는 코딩 에이전트까지 한 모델로 처리하고 싶을 때 쓰며, 가중치가 공개돼 있어 직접 띄워 쓸 수도 있다.
- 보상 모델 Reward Model보상 모델은 LLM 답변을 읽고 얼마나 좋은지 점수 하나로 매기는 모델이다. 사람의 선호를 흉내 내도록 따로 학습해 사람 대신 대량으로 채점하며, RLHF 학습의 채점관으로 쓰고 여러 답변 중 가장 나은 답을 고르거나 응답을 자동으로 채점할 때도 쓴다.
- 비전-언어 모델 Vision-Language Model비전-언어 모델(VLM)은 이미지와 글을 함께 읽고 글로 답하는 모델로, 에러 화면·차트·문서 사진처럼 말로 옮기기 번거로운 정보를 그대로 보여 주고 질문할 때 쓴다. 글자만 뽑는 OCR과 달리 내용을 이해해 설명하며, Claude·GPT·Gemini 같은 주요 AI 챗봇 대부분에 이 기능이 들어 있다.
- 빔 1.0 Beam 1.0 501B (Reflection AI)빔 1.0은 미국 Reflection AI가 처음 내놓은 Apache 2.0 오픈 웨이트 추론 모델로, 전체 크기는 크지만 토큰마다 일부 전문가(MoE)만 써서 덩치에 비해 가볍게 돈다. 코딩, 여러 단계에 걸친 도구 호출, 오래 도는 에이전트 작업을 싼 API로 돌리거나 회사 서버에 직접 올려 쓰고 싶을 때 고른다.
- 사전학습 Pretraining사전학습은 웹 문서·책·코드 같은 방대한 텍스트로 '다음 단어 맞히기'를 반복시켜 LLM에 언어 패턴과 지식을 익히게 하는 첫 단계이자 가장 비싼 단계다. 수천 장의 GPU가 필요해 대부분은 직접 하지 않고, 그 결과물인 베이스 모델을 골라 쓰거나 추가 학습의 출발점으로 삼는다.
- 상태 공간 모델 State Space Model입력을 앞에서부터 읽으며 내용을 고정 크기의 '상태'에 압축해 들고 가는 모델 구조로, 모든 토큰을 서로 비교하는 Transformer와 달리 입력이 길어져도 계산량이 길이에 비례해서만 늘어난다. 아주 긴 시퀀스를 빠르고 가볍게 처리해야 할 때 Transformer 대신 쓰거나 함께 쓴다.
- 생성형 AI Generative AI글, 이미지, 음악, 코드처럼 세상에 없던 콘텐츠를 새로 만들어내는 AI로, 주어진 것에 라벨을 붙이던 예전 '판별' AI와 달리 결과물을 직접 만든다. 초안 작성, 요약·번역, 그림이나 코드 생성처럼 백지에서 시작하는 일을 빠르게 해치울 때 쓴다.
- 소형 언어 모델 Small Language Model파라미터가 수억~수십억 개 수준이라 노트북·스마트폰·GPU 한 장에서도 돌아가는 언어 모델이다. 무엇이든 묻는 챗봇보다는 분류·추출·요약처럼 정해진 일을 빠르고 싸게 처리하는 부품으로, 데이터를 밖으로 내보내지 않고 처리할 때 쓴다.
- 손실 함수 Loss Function모델의 예측이 정답에서 얼마나 벗어났는지를 숫자 하나로 나타내는 함수로, 학습은 이 숫자를 줄이는 쪽으로 가중치를 조금씩 고치는 과정이다. 어떤 손실 함수를 고르느냐에 따라 모델이 무엇을 잘하게 될지가 정해지므로 문제 종류에 맞는 것을 골라 쓴다.
- 스케일링 법칙 Scaling Law모델 크기, 학습 데이터, 계산량을 늘리면 성능이 얼마나 좋아질지 미리 계산할 수 있다는 경험 법칙이다. "클수록 좋다"가 아니라 "얼마나 좋아질지 예측된다"는 게 핵심이라, 큰 모델의 학습 규모를 정하거나 답할 때 생각하는 시간(추론 강도)을 얼마나 쓸지 판단할 때 기준으로 쓴다.
- 스테이블 디퓨전 Stable DiffusionStability AI가 가중치를 공개한 텍스트-이미지 생성 모델로, 서비스로만 쓰는 Midjourney·DALL-E와 달리 내 컴퓨터에서 직접 돌리고 고칠 수 있다. 원하는 화풍을 학습시키거나 포즈·구도를 정확히 맞출 때, 이미지를 대량으로 싸게 만들 때 쓴다.
- 스텝 3.7 Step 3.7 Flash (StepFun)중국 StepFun이 2026년 5월 공개한 오픈웨이트 멀티모달 모델로, 전체는 크지만 한 번에 일부만 켜서 최고 정확도보다 빠르고 싸게 많이 돌리는 것을 노렸다. 도구를 여러 번 반복해서 부르는 코딩 에이전트 작업에 쓰고, 가중치가 공개돼 있어 자기 서버에서도 돌릴 수 있다.
- 스텝 5 프리뷰 Step 5 Preview (StepFun)스텝 5 프리뷰는 StepFun의 에이전트용 플래그십 모델로, 계획·도구 호출·검토를 반복하며 결과물이 나올 때까지 일한다. 코딩, 금융 분석, 대량 자료 리서치처럼 긴 작업을 낮은 비용으로 맡길 때 쓰며, 큰 모델이지만 일할 때는 일부만 켜는 구조라 비슷한 지능을 더 싸게 낸다.
- 스파이킹 신경망 Spiking Neural Network (Neuromorphic Computing)뇌의 뉴런처럼 숫자 값 대신 스파이크가 언제 터지는지로 정보를 주고받는 신경망으로, 의미 있는 입력이 들어올 때만 계산하고 나머지 시간에는 쉰다. 이벤트 카메라 영상, 센서 시계열처럼 끊임없이 들어오는 데이터를 적은 전력으로 처리해야 하는 엣지 기기에서 쓴다.
- 슬라이딩 윈도우 어텐션 Sliding Window Attention (SWA)트랜스포머에서 각 토큰이 모든 토큰이 아니라 앞뒤 정해진 거리(윈도우) 안의 토큰만 보게 해서, 입력이 길어져도 계산량이 길이에 비례해서만 늘도록 바꾼 어텐션 방식이다. 모든 토큰이 서로를 보는 일반 어텐션으로는 긴 문서의 메모리와 연산을 감당할 수 없을 때 쓴다.
- 시계열 파운데이션 모델 Time-Series Foundation Model아주 많은 시계열 데이터로 미리 학습해 둔 범용 예측 모델로, 판매량·트래픽·수요 같은 값의 미래를 따로 학습시키지 않고 바로(제로샷) 예측한다. ARIMA처럼 시계열마다 모델을 따로 만드는 방식과 달리, 예측할 시계열이 많거나 결과가 빨리 필요할 때 쓴다.
- 시드 2.0 ByteDance Seed 2.0틱톡을 만든 바이트댄스가 2026년 2월 공개한 언어 모델 시리즈로, 문서·이미지 분석이나 대량 분류처럼 비용이 중요한 작업을 싸고 빠르게 처리할 때 쓴다. 크기가 Pro·Lite·Mini 세 가지라 작업 난이도에 맞춰 고르면 된다.
- 신경망 Neural Network단순한 인공 뉴런을 층으로 쌓고 데이터로 가중치를 조금씩 고쳐 가며 패턴을 배우는 머신러닝 모델이다. 뉴런 하나는 곱하고 더하는 일만 하지만 층을 깊게 쌓으면 손글씨 인식부터 대화까지 해내서, 이미지·음성·언어처럼 패턴이 복잡하고 데이터가 많은 문제에 쓰며 LLM도 거대한 신경망이다.
- 쓰라린 교훈 The Bitter Lesson (Rich Sutton)리처드 서튼이 2019년 에세이에서 정리한 관찰로, 사람의 지식을 직접 넣는 방법보다 계산량이 늘수록 함께 좋아지는 범용 방법(탐색·학습)이 결국 이긴다는 내용이다. 연구자뿐 아니라 프롬프트와 에이전트를 만드는 개발자도 '모델이 좋아져도 이 설계가 살아남을까'를 따지는 기준으로 쓴다.
- 양자화 Quantization모델 가중치의 숫자를 16비트에서 8비트·4비트처럼 덜 정밀하게 적어 모델 크기를 절반이나 4분의 1로 줄이는 기법이다. 메모리가 모자라 큰 모델이 노트북이나 GPU 한 장에 안 올라갈 때, 또는 서버에서 더 많은 요청을 처리하고 싶을 때 가장 먼저 꺼내는 방법이다.
- 어텐션 메커니즘 Attention Mechanism어텐션은 AI가 문장을 읽을 때 지금 단어와 관련이 깊은 다른 단어에 더 집중하게 하는 방법이다. "나는 사과를 먹었다. 그것은 달았다"에서 '그것'이 '사과'라는 걸 알아내는 것이 어텐션이 하는 일이다. 거의 모든 LLM이 쓰는 Transformer의 핵심이라, 긴 대화를 기억하고 프롬프트를 이해하는 방식이 모두 여기서 나온다.
- 어텐션 헤드 Attention Head어텐션 헤드는 트랜스포머 안에서 단어 사이의 관계를 계산하는 가장 작은 단위로, 각 층에 여러 개가 들어 있어 무엇을 가리키는지, 문법, 위치 같은 관계를 하나씩 맡는다(멀티헤드 어텐션). 모델이 어떻게 판단하는지 들여다보거나 긴 대화에서 메모리 비용이 왜 생기는지 이해할 때 알아 두면 좋다.
- 에이온 3.0 Aion-3.0 (AionLabs)AionLabs가 만든 롤플레이·스토리텔링 전용 언어 모델로, GLM 기반의 여러 전문 모델이 한 응답을 함께 만든다. 캐릭터 대화, 인터랙티브 픽션, 소설 협업처럼 이야기가 중요한 작업에 쓰고, 코딩이나 분석은 범용 모델에 맡기는 게 낫다.
- 에이온 3.0 미니 Aion-3.0-Mini (AionLabs)AionLabs가 롤플레이·스토리텔링용으로 만든 Aion 3.0의 경량 버전이다. 컨텍스트 길이와 출력 한도는 풀 모델과 같고 가격은 약 1/4이라, 캐릭터 채팅이나 이야기 생성 앱을 싸게 만들 때 먼저 고를 만하다.
- 에포트 컨트롤 Effort Control / Reasoning Effort에포트 컨트롤은 추론 모델이 답하기 전에 보이지 않는 생각을 얼마나 많이 할지 요청마다 정하는 설정이다. 쉬운 요청은 낮게 두어 빠르고 싸게 처리하고, 어려운 문제는 높게 두어 느리고 비싸더라도 더 꼼꼼하고 정확하게 풀 때 쓴다.
- 엔그램 Engram (Evidence-Based Learning Engine)엔그램은 지식을 매번 검색해 오지 않고 모델 가중치에 직접 새겨 넣어 모델이 처음부터 알고 있게 만드는 AI 메모리 방식이다. 컨텍스트 채우기나 RAG와 달리 검색 없이 적은 토큰으로 답하므로, 사내 문서처럼 자주 묻는 지식을 다루거나 여러 AI 도구에서 같은 기억을 이어 쓸 때 쓴다.
- 역전파 Backpropagation역전파는 신경망의 예측 오차를 출력층에서 입력층 쪽으로 거꾸로 전달하며 각 가중치가 오차에 얼마나 책임이 있는지(기울기)를 계산하는 방법이다. 딥러닝 모델을 학습시킬 때 매 단계 실행되며, 직접 구현할 일 없이 PyTorch에서는 loss.backward() 한 줄로 프레임워크가 자동 처리한다.
- 연상 메모리 Associative Memory (Hopfield Networks and Transformers)흐린 사진에서 얼굴을 떠올리듯, 일부 단서만으로 저장된 기억 전체를 주소가 아니라 내용으로 찾아내는 기억 방식이다. 1982년 홉필드 네트워크에서 시작했고, 지금은 트랜스포머 어텐션을 설명하는 틀로 쓰이거나 신경망에 기억 층을 붙일 때 쓰인다.
- 연합학습 Federated Learning데이터를 한곳에 모으지 않고 모델이 데이터가 있는 곳으로 가서 학습한 뒤, 모델 업데이트만 모아 합치는 학습 방식이다. 병원의 환자 기록, 금융 정보, 스마트폰 속 개인 메시지처럼 밖으로 내보내기 어려운 데이터로 AI를 학습시켜야 할 때 쓴다.
- 오픈 웨이트 Open Weights학습된 모델의 가중치 파일을 공개해 누구나 내려받아 내 컴퓨터나 서버에서 직접 실행하고 수정할 수 있게 한 배포 방식이다. 학습 코드나 데이터까지 공개하는 '오픈소스'와 달리 가중치만 푸는 경우가 많고, 데이터를 외부로 보내기 어렵거나 비용과 맞춤화를 직접 관리하고 싶을 때 쓴다.
- 오픈소스 LLM Open Source LLM가중치가 공개돼 누구나 내려받아 내 컴퓨터나 회사 서버에서 직접 돌리고 고쳐 쓸 수 있는 언어 모델이다. GPT·Claude처럼 API로만 쓰는 상용 모델과 달리 데이터가 밖으로 나가지 않아, 내부 데이터를 다루거나 모델을 직접 맞춤화하고 싶을 때 쓴다.
- 온도 TemperatureLLM이 다음 단어를 고를 때 1등 후보만 고집할지, 다른 후보에도 기회를 줄지 정하는 설정값으로, 낮추면 매번 비슷한 답이, 높이면 다양한 답이 나온다. 분류·추출·코드처럼 정답이 정해진 작업은 낮게, 아이디어를 여러 개 뽑을 때는 높게 둔다.
- 월드 모델 World Model월드 모델은 "지금 이렇게 움직이면 다음에 어떻게 될까"를 예측하는 AI로, 언어 모델이 다음 단어를 예측하듯 물리 세계의 다음 장면을 예측한다. 로봇·자율주행처럼 현실에서 직접 해 보기 어렵거나 위험한 시행착오를 모델 안에서 미리 연습하거나, 학습용 합성 데이터를 만들 때 쓴다.
- 위스퍼 WhisperOpenAI가 공개한 음성→텍스트 변환(STT) 모델로, 회의 녹음 전사·영상 자막·음성 명령 처리처럼 말을 글자로 옮길 때 쓴다. 모델 하나로 99개 언어를 알아듣고 잡음이나 억양이 강한 녹음에도 잘 버티며, API로 바로 쓰거나 내 PC에서 직접 돌릴 수 있다.
- 인공 일반 지능 Artificial General IntelligenceAGI(인공 일반 지능)는 번역·체스처럼 한 가지 일만 잘하는 AI가 아니라, 사람처럼 어떤 과제든 스스로 배우고 풀 수 있는 AI다. 아직 실제로 만들어진 적 없는 가상의 단계로, 주요 AI 연구소들이 최종 목표로 삼고 있다.
- 인스트럭션 튜닝 Instruction Tuning사전학습된 모델에 (지시문, 답변) 쌍을 추가로 학습시켜 사람의 지시를 따르게 만드는 과정이다. 글을 이어 쓰기만 하던 베이스 모델을 질문에 답하는 대화형 어시스턴트로 바꾸거나, 정해진 업무 형식에 맞출 때 쓴다.
- 인컨텍스트 러닝 In-Context Learning모델을 다시 학습시키지 않고 프롬프트에 넣은 지시와 예시만 보고 LLM이 새 작업을 그 자리에서 해내는 능력이다. 감성 분석·번역·요약처럼 작업마다 파인튜닝하지 않고 지시와 예시만 바꿔 넣어 모델 하나로 여러 작업을 처리하고 싶을 때 쓴다.
- 임베딩젬마 2 EmbeddingGemma 2 (Google)텍스트·코드·이미지·영상·오디오를 하나의 768차원 벡터 공간에 넣는 구글의 작은 오픈 임베딩 모델로, 글로 물어 사진이나 음성 메모까지 찾을 수 있다. 휴대폰·노트북에서 인터넷 없이 여러 형식의 자료를 한꺼번에 검색하거나 로컬 RAG를 만들 때 쓴다.
- 잉클링 Inkling (Thinking Machines Lab)잉클링은 미라 무라티의 Thinking Machines Lab이 Apache 2.0 라이선스로 공개한 첫 오픈 웨이트 모델로, 글·이미지·음성을 입력받아 텍스트로 답한다. 내려받아 내 데이터로 파인튜닝해 쓰라고 만든 모델이라, 코딩 에이전트나 사내 도구를 맞춤형으로 만들 때 고른다.
- 자기 지도 학습 Self-Supervised Learning자기 지도 학습은 사람이 붙인 정답(라벨) 없이 데이터 일부를 가리고 맞히게 해서 문제와 정답을 스스로 만드는 학습 방법이다. 라벨을 붙이는 비용이 들지 않아 LLM 사전학습의 기본 방식이 됐고, 라벨 없는 분야별 문서가 많을 때 모델에 그 분야를 익히게 하는 데 쓴다.
- 자연어 처리 Natural Language Processing자연어 처리(NLP)는 컴퓨터가 사람의 말과 글을 읽고, 뜻을 파악하고, 새로 만들어 내게 하는 기술 분야로, 번역·감성 분석·요약·챗봇처럼 텍스트를 다루는 기능은 거의 다 여기에 속한다. 지금은 LLM 하나가 대부분의 NLP 과제를 처리하지만, 빠르고 싸게 반복해야 하는 일에는 전통적인 도구도 여전히 쓰인다.
- 잠재 공간 추론 Latent Space ReasoningLLM이 중간 생각을 문장으로 쓰는 사고의 사슬(CoT)과 달리, 생각을 글자로 바꾸지 않고 모델 내부 벡터(은닉 상태) 그대로 다음 단계로 넘겨 단어 하나를 고를 때마다 생기는 정보 손실을 줄이는 추론 방식이다. 되돌아가며 계획을 다시 짜야 하는 문제를 생각 토큰을 덜 쓰고 풀고 싶을 때 연구되고 있다.
- 전이 학습 Transfer Learning많은 데이터로 이미 학습한 모델의 지식을 새 작업에 가져다 쓰는 머신러닝 방법으로, 데이터가 적거나 처음부터 학습할 시간과 비용이 없을 때 쓴다. LLM에서 흔히 쓰는 "사전학습 → 파인튜닝" 흐름이 전부 전이 학습이다.
- 제미나이 GeminiGoogle DeepMind가 만든 AI 모델 시리즈로, 글·이미지·소리·영상을 하나의 모델이 함께 이해한다. 한 번에 100만 토큰까지 담을 수 있어 표가 섞인 긴 문서나 한 시간짜리 영상을 통째로 넣고 묻거나, 크기별 모델을 골라 코딩·에이전트 작업에 쓴다.
- 제미나이 3 프로 Gemini 3 Pro (Google)구글 딥마인드가 2025년 11월 프리뷰로 공개한 Gemini 3 세대의 대표 모델로, 글쓰기보다 깊게 생각하고 도구를 직접 다루는 데 초점을 맞췄다. 이미지·영상·PDF·코드가 섞인 자료나 코드 저장소 전체처럼 긴 자료를 한 모델로 통째로 처리하고 싶을 때 쓴다.
- 제미나이 3.5 플래시 Gemini 3.5 Flash (Google)2026년 5월 Google I/O에서 공개된 구글 Flash 계열 모델로, 예전 보급형 Flash와 달리 코딩과 에이전트 작업에서 직전 세대 Pro급 성능을 더 빠르게 낸다. 도구를 여러 번 부르며 몇 단계에 걸쳐 일하는 코딩 에이전트처럼 호출이 많고 속도가 체감되는 작업에 쓴다.
- 제미나이 3.8 플래시 Gemini 3.8 Flash (Google)제미나이 3.8 플래시는 구글의 싸고 빠른 Flash 계열 모델로, 3.7 플래시와 같은 가격·같은 컨텍스트 창에 오래 걸리는 일을 끝까지 해내는 힘을 더했다. 비싼 상위 모델 대신 긴 코딩·에이전트 작업을 적은 비용으로 돌릴 때 쓴다.
- 제미나이 4 아르곤 Gemini 4 Argon (Google)구글 딥마인드 제미나이 라인업의 최상위 모델이다. 한 번에 최대 100만 토큰까지 출력해서, 대규모 리팩토링이나 긴 리서치, 보안 작업처럼 몇 시간씩 걸리는 일을 끝까지 맡는다. 설계나 코드 리뷰처럼 깊이 생각해야 하는 일은 아르곤에, 빠르게 반복하는 구현은 Flash 계열에 나눠 맡기면 된다.
- 제미나이 4 카본 Gemini 4 Carbon (Google)구글이 제미나이 4 아르곤을 내놓고 2주 뒤 공개한 제미나이 최상위 모델이다. 취약점 탐지부터 패치까지 이어지는 보안 방어 작업과 오래 걸리는 코딩 작업을 맡기려고 만들었다.
- 제브 Jev (TypeSafe System One Decision Model)제브(Jev)는 TypeSafe AI가 만든 판단 전용 AI 모델로, 글을 쓰지 않고 정해진 선택지·점수·참/거짓 확률만 숫자로 돌려준다. 분류·라우팅·평가처럼 코드 안에서 빠르고 싸게 수없이 내려야 하는 판단에 쓰며, 문장을 만드는 일반 LLM과 달리 답을 따로 파싱할 필요가 없다.
- 젬마 GemmaGoogle DeepMind가 Gemini 연구를 바탕으로 공개한 오픈 웨이트 경량 모델 시리즈로, Google 서비스로만 쓰는 Gemini와 달리 모델 파일을 받아 내 PC·휴대폰·서버에서 직접 돌리거나 내 데이터로 파인튜닝해야 할 때 쓴다. 데이터를 밖으로 보내지 않아도 되고, 크기가 작아 노트북이나 스마트폰에서도 돌아간다.
- 젬마 4 Gemma 4 (Google)젬마 4는 구글 딥마인드가 가중치를 공개한 오픈 웨이트 모델로, 내 노트북·휴대폰·서버에 내려받아 인터넷 연결이나 구독료 없이 직접 돌릴 수 있다. 클라우드 API 없이 로컬에서 AI를 쓰고 싶을 때, 내 하드웨어에 맞는 크기를 골라 쓴다.
- 지속 학습 Continual Learning새 데이터와 과제를 차례로 배우면서도 예전에 배운 것을 잊지 않게 하는 학습 방식으로, 모델을 여러 번 이어서 파인튜닝하거나 쓸수록 나아지는 AI를 만들려 할 때 부딪히는 문제다. 신경망은 새로 배우면 예전 패턴을 덮어쓰는 파국적 망각이 생기기 때문에, 지금의 LLM은 학습이 끝나면 가중치를 고정한 채 배포된다.
- 창발적 능력 Emergent Ability작은 모델에서는 거의 0점이던 능력이 모델이 어떤 크기를 넘는 순간 갑자기 나타나는 것처럼 보이는 현상이다. 작은 모델이 못 하는 여러 단계 추론이나 코드 생성 같은 작업이 더 큰 모델에서는 풀릴지 판단할 때 근거로 쓴다.
- 추론 모델 Reasoning Model답을 내기 전에 사고 토큰을 길게 만들며 문제를 나누고 검산하도록 학습된 LLM이다. 일반 모델보다 느리고 비싸서 버그 추적, 수학 풀이, 여러 단계짜리 계획처럼 한 번에 답하기 어려운 일에만 쓴다.
- 추론 시 연산 Test-Time Compute모델은 그대로 두고 답을 내는 순간에 더 오래 생각하게 해서(연산을 더 써서) 정확도를 올리는 방식으로, 모델 키우기·데이터 늘리기에 이은 성능 향상의 세 번째 축이다. 수학·디버깅처럼 어려운 문제의 품질을 높이고 싶을 때 쓰며, 개발사만이 아니라 사용자도 답할 때마다 직접 조절할 수 있다.
- 추측적 디코딩 Speculative Decoding작은 모델이 다음 토큰 몇 개를 먼저 짐작하고 큰 모델이 이를 한 번에 검사하는 방식으로, 답의 품질은 그대로 두고 생성 속도만 높이는 기법이다. 채팅이나 코드 자동완성처럼 사용자가 응답을 기다리는 서비스에서 지연을 줄일 때 쓴다.
- 커맨드 A Command A (Cohere)Command A는 Cohere가 2025년 3월 내놓은 기업 업무용 언어 모델로, 사내 문서 검색(RAG)·사내 도구 호출·다국어 작업을 GPU 두 장만으로 자체 서버나 클라우드에서 처리할 때 쓴다. 높은 점수를 겨루는 것보다 회사 안에서 안정적으로 일을 해내는 것이 목표다.
- 코코로 TTS Kokoro Text-to-Speech파라미터 8,200만 개짜리 초경량 오픈소스 TTS 모델로, 훨씬 큰 모델에 가까운 자연스러운 영어 음성을 일반 PC나 저렴한 서버에서 무료로 빠르게 만들 때 쓴다. 유료 클라우드 TTS는 비용이 부담되고, 미리 준비된 목소리로 충분할 때 고르면 된다.
- 콜리브리 Aleph Alpha Kolibri (Sovereign Open-Weight Model)콜리브리는 독일 Aleph Alpha가 다른 회사 기반 모델 없이 유럽에서 처음부터 학습한 영어·독일어 MoE 오픈 웨이트 모델로, 가중치 전체가 Apache 2.0으로 공개됐다. 데이터를 미국이나 중국 클라우드로 보낼 수 없는 공공 행정·산업·항공우주 분야에서 자기 서버나 완전 오프라인 환경에 직접 올려 쓸 때 쓴다.
- 콜모고로프-아놀드 네트워크 Kolmogorov-Arnold Network (KAN)KAN은 보통 신경망(MLP)과 반대로 연결선마다 숫자 대신 모양을 바꿀 수 있는 곡선을 학습하는 신경망 구조다. 학습된 곡선을 그려 수식을 거꾸로 읽어 낼 수 있어서, 작은 과학 문제에서 데이터 속 숨은 법칙을 찾거나 결과를 해석해야 할 때 쓴다.
- 큐원 QwenAlibaba Cloud가 만들어 가중치를 공개한 오픈 웨이트 LLM 시리즈로, 대부분 Apache 2.0 라이선스라 상업적으로도 무료로 받아 내 컴퓨터나 서버에서 돌릴 때 쓴다. 노트북용 소형부터 서버용 대형까지 크기가 다양하고, 코딩·이미지 이해·음성 같은 특화 모델도 따로 있다.
- 큐원3 맥스 Qwen3 Max (Alibaba)Qwen3 Max는 알리바바 큐원(Qwen) 시리즈에서 가장 크고 똑똑한 버전으로, 약 1조 파라미터를 가진 API 전용 모델이다. GPT·제미나이·클로드 같은 미국 최상위 모델과 비슷한 수준의 코딩·추론·다국어 작업을 더 싼 비용으로 맡기고 싶을 때 쓴다.
- 큐원3.8 27B Qwen3.8 27B (Alibaba)알리바바 큐원 팀이 Apache 2.0 라이선스로 공개한 270억 파라미터 오픈 웨이트 모델이다. 이미지와 영상도 이해하며, 그래픽카드 한 장이나 넉넉한 메모리의 맥에서 코딩 에이전트와 문서 작업을 로컬로 돌릴 때 쓴다. API로만 쓰는 큰 모델 큐원3.8 맥스와 달리 내 PC에서 상위 모델에 가까운 코딩·에이전트 성능을 낸다는 게 핵심이다.
- 큐원3.8 맥스 Qwen3.8 Max (Alibaba)큐원3.8 맥스는 알리바바 Qwen 팀의 플래그십 모델로, 며칠씩 이어지는 자율 코딩과 긴 업무를 에이전트에 맡길 때 쓴다. API로 바로 붙여 쓸 수 있고, Max 등급 중 처음으로 가중치가 공개돼 직접 호스팅할 수도 있지만 공개 가중치는 텍스트만 지원한다.
- 큐원3.8 플래시 넥스트 Qwen3.8 Flash Next (Alibaba)알리바바 Qwen 팀이 다음 세대 Qwen4의 구조를 먼저 공개한 오픈 웨이트 멀티모달 MoE 모델이다. 전체 125B 가운데 토큰마다 6B만 활성화돼서, 코딩 에이전트나 도구 호출 작업을 싸게 돌리거나 내 장비에서 직접 실행할 때 쓴다. 이름의 'Next'는 더 큰 Flash라는 뜻이 아니라 구조 미리보기라는 표시이고, 설치 없이 API로 쓰려면 이 모델을 바탕으로 만든 Qwen3.8-Flash를 고르면 된다.
- 크레아 2 Krea 2 (Krea AI)크레아 2는 Krea AI가 데이터 수집부터 학습까지 직접 해서 만든 이미지 생성 모델로, 그림에 무엇이 들어가는지보다 어떻게 보이는지(분위기·조명·질감)를 살리는 데 강하다. 다른 모델이 무난한 'AI 느낌'으로 뭉개 버리는 필름 사진, 영화 스틸, 디지털 페인팅 같은 룩을 그대로 내고 싶을 때 쓰고, 오픈 웨이트라 로컬 실행과 LoRA 학습도 된다.
- 클로드 미토스 5 Claude Mythos 5 (Anthropic)클로드 미토스 5는 페이블 5와 같은 모델이지만 사이버보안·생명과학 분야의 안전장치를 일부 풀어 둔 승인 고객 전용 버전이다. 취약점 탐지나 단백질 설계처럼 오용될 수 있는 작업을 검증된 보안 담당자와 연구자가 모델 능력을 모두 써서 할 때 쓴다.
- 클로드 소네트 4.6 Claude Sonnet 4.6 (Anthropic)Anthropic이 2026년 2월에 내놓은 가운데 등급 모델로, Sonnet 가격 그대로 윗급 Opus에 가까운 실력을 낸다. 코드 리뷰, 문서 작성, 반복 에이전트 작업처럼 양이 많은 일상 작업을 싸게 처리할 때 쓴다.
- 클로드 소네트 5 Claude Sonnet 5 (Anthropic)Anthropic이 2026년 6월 내놓은 중간 등급 모델로, 계획을 세우고 도구를 쓰며 긴 작업을 이어가는 능력이 당시 최상위 Opus 4.8에 가까운데 값은 Opus의 절반 이하라 에이전트의 일꾼이나 일상 코딩에 쓴다. 2026년 9월 같은 가격의 후속작 Sonnet 5.5가 나와 지금은 레거시 모델이다.
- 클로드 소네트 5.5 Claude Sonnet 5.5 (Anthropic)클로드 소네트 5.5는 Anthropic Claude 5.5 패밀리의 주력 중간급 모델로, 버그 수정이나 문서·슬라이드·스프레드시트 작성처럼 범위가 분명한 일상 작업과 에이전트 코딩에 기본으로 쓴다. 가격은 오퍼스 5.5의 절반이고, 오래 깊이 판단해야 하는 복잡한 일만 오퍼스 5.5로 보내면 된다.
- 클로드 오퍼스 4.8 Claude Opus 4.8 (Anthropic)Anthropic이 2026년 5월 내놓은 Claude의 최상위 모델로, 어려운 코딩, 오래 도는 에이전트 작업, 긴 문서 분석처럼 품질이 가장 중요한 일에 쓴다. 자기 작업 결과를 더 솔직하게 보고하며, 간단하고 양이 많은 일은 Sonnet이나 Haiku 같은 가벼운 모델에 맡기는 편이 낫다.
- 클로드 오퍼스 5 Claude Opus 5 (Anthropic)클로드 오퍼스 5는 Anthropic이 2026년 7월에 낸 Claude 5세대 첫 오퍼스 모델로, 오퍼스 4.8의 뒤를 잇는다. 많은 실무 작업에서 최상위 모델 페이블 5에 가까운 성능을 기존 오퍼스 가격 그대로 내며, 매일 하는 코딩, 몇 시간씩 도는 에이전트, 긴 문서 분석을 맡기는 실무용 주력 모델이다.
- 클로드 오퍼스 5.5 Claude Opus 5.5 (Anthropic)클로드 오퍼스 5.5는 Anthropic Claude 5.5 제품군의 주력 모델로, 한 등급 위 Fable 5.1에 가까운 일을 Opus 5보다 약 40% 적은 비용으로 해내서 오래 도는 코딩 에이전트나 리서치처럼 판단이 필요한 작업의 기본 모델로 쓴다. 범위가 분명한 일상 작업은 아래 등급에 맡기고, 실수하면 손해가 큰 단계만 Fable로 넘기면 된다.
- 클로드 페이블 5.1 Claude Fable 5.1 (Anthropic)클로드 페이블 5.1은 Anthropic이 2026년 9월 공개한 클로드 5 제품군의 최상위 모델로, 스스로 계획하고 도구를 쓰고 결과를 확인하며 어려운 추론이나 오래 도는 에이전트 작업을 끝까지 맡길 때 쓴다. 공식 문서는 대부분의 작업을 오퍼스 5.5로 시작하고, 그걸로 부족할 때 페이블로 올리라고 권한다.
- 클로드 하이쿠 4.5 Claude Haiku 4.5 (Anthropic)클로드 하이쿠 4.5는 앤트로픽이 2025년 10월 내놓은 가장 작고 빠른 클로드 모델로, 몇 달 전 최고 수준이던 Sonnet 4에 가까운 성능을 Sonnet 4.5의 1/3 가격에 낸다. 챗봇 응대·대량 분류·일상 코딩처럼 빠른 응답이 중요하고 양이 많은 작업에 쓴다.
- 클로드 하이쿠 5.5 Claude Haiku 5.5 (Anthropic)Anthropic Claude 5.5 제품군에서 가장 작고 빠르고 싼 모델로, 요약·분류·서브에이전트·브라우저 조작처럼 호출이 많고 비용을 아껴야 하는 작업에 쓴다. 깊은 판단은 Opus나 Sonnet에 맡기고, 범위가 정해진 작은 작업을 많이 처리할 때 하이쿠를 고르면 된다.
- 키미 Kimi (Moonshot AI)Kimi는 중국 스타트업 문샷 AI가 만든 챗봇이자 그 뒤에서 돌아가는 오픈소스 모델 시리즈(K2, K2.5, K2.6 등)다. 코딩·에이전트 작업에서 비공개 최상위 모델에 견줄 성능을 내서, 긴 문서를 다루거나 이런 작업을 저렴하게 또는 내 서버에서 돌리고 싶을 때 쓴다.
- 키미 K3 Kimi K3 (Moonshot AI)키미 K3는 중국 문샷AI가 2026년 7월 내놓은 초대형 추론 모델로, 공개 당시 가중치가 풀린 모델 중 가장 컸다. 사람이 거의 손대지 않아도 오래 걸리는 코딩·엔지니어링 작업을 끝까지 이어 가도록 만든 모델이라, 미국 상용 모델에 맞먹는 성능을 가중치째로 받아 직접 돌리거나 호스팅 API로 쓰고 싶을 때 고른다.
- 키미 K3.1 프로 Kimi K3.1 Pro (Moonshot AI)Moonshot AI가 Kimi K3를 추가로 학습시켜 내놓은 오픈 웨이트 주력 모델로, 몇 시간씩 걸리는 코딩, 3D 모델링, 문서 기반 금융 리서치처럼 긴 에이전트 작업에 쓴다. 컨텍스트 창은 100만 토큰이다.
- 터너리 본사이 Ternary Bonsai (PrismML Low-Bit On-Device LLM)PrismML이 Qwen 모델의 가중치를 -1, 0, +1 세 값으로 압축해 만든 저비트 언어 모델 시리즈로, 27B급 모델을 6GB 안팎으로 줄여 노트북이나 휴대폰에서 오프라인으로 돌릴 때 쓴다. 같은 회사의 1비트 버전보다 조금 크지만, 0이라는 값을 하나 더 두어 원본 품질을 더 많이 지킨다.
- 텐센트 HY3 Tencent Hunyuan 3 (Hy3)텐센트가 2026년 4월 오픈소스(Apache 2.0)로 공개한 MoE 언어 모델로, 전체 295B 파라미터 중 질문마다 21B만 깨워 써서 덩치에 비해 연산 비용이 낮다. 코딩·복잡한 추론·에이전트 작업을 직접 배포해 운영하거나 무료 API로 먼저 시험해 보고 싶을 때 쓴다.
- 토큰화 Tokenization토큰화는 LLM이 글자를 그대로 읽지 않고 문장을 최소 단위인 토큰으로 쪼개 번호를 붙여 처리하는 과정이다. API 요금, 컨텍스트 한도, 출력 상한이 모두 토큰 수로 정해지므로 비용과 길이는 글자 수가 아니라 토큰 수로 따져야 한다.
- 트랜스포머 Transformer2017년 구글 논문 Attention Is All You Need에서 나온 신경망 구조로, 예전 모델처럼 한 단어씩 차례로 읽지 않고 셀프 어텐션으로 문장 속 모든 단어가 서로를 한꺼번에 살펴본다. GPT·Claude·Gemini 같은 지금의 LLM이 모두 이 구조라서, 컨텍스트 길이 제한이나 토큰 요금이 왜 생기는지 알고 싶을 때 이해해 두면 좋다.
- 파라미터 Model Parameters파라미터는 신경망이 학습하면서 스스로 맞춰 가는 가중치와 편향 값이고, 그 개수가 모델의 '크기'를 나타낸다. API에서 생성 설정으로 넘기는 parameters와는 다른 말로, 모델을 직접 내려받아 돌리거나 파인튜닝할 때 필요한 GPU 메모리를 가늠하는 기준으로 쓴다.
- 파운데이션 모델 Foundation Model방대한 데이터로 미리 학습해 두고 그 위에 여러 용도를 얹어 쓰는 범용 바탕 모델이다. 작업마다 따로 학습하던 전통적 모델과 달리 번역·요약·코딩·질문 답변을 모델 하나로 처리하고, 특정 용도에는 프롬프트나 파인튜닝으로 맞춰 쓴다.
- 파인튜닝 Fine-Tuning이미 학습된 모델을 내 데이터로 한 번 더 학습시켜 매번 길게 설명하지 않아도 원하는 형식·말투·판단 기준대로 답하게 만드는 방법이다. 최신 정보는 RAG에 맡기고, 프롬프트나 RAG로도 일관된 톤과 도메인 감각이 안 잡힐 때 마지막 카드로 쓴다.
- 파티클 1 Particle-1 (Particle AI)Particle AI가 DeepSeek V4.1 Flash를 추가 학습시켜 만든 소프트웨어 엔지니어링용 모델이다. 같은 코딩 작업을 평균 약 45% 적은 토큰으로 끝내야 해서 작업당 비용과 대기 시간을 줄이고 싶을 때 쓴다.
- 퍼플렉시티 소나 Perplexity SonarPerplexity가 만든 검색 특화 모델로, 질문마다 실시간으로 웹을 검색해 출처 링크가 달린 답을 빠르게 낸다. 최신 뉴스처럼 지금 일어나는 일을 물을 때나 앱에 실시간 검색을 붙일 때 쓰며, 어려운 추론·코딩보다는 빠르고 정확한 최신 정보에 강하다.
- 포스트 트레이닝 Post-Training포스트 트레이닝은 사전학습만 마친 base 모델을 대화하고 지시를 따르는 어시스턴트로 다듬는 과정으로, 보통 SFT로 대화 형식을 가르친 다음 RLHF·DPO로 사람이 선호하는 답에 맞춘다. 같은 base 모델이라도 이 과정에 따라 말투·안전성·추론 능력이 크게 달라지며, 공개 모델을 내 용도에 맞게 길들일 때 쓴다.
- 프론티어 모델 Frontier Model특정 구조를 가리키는 기술 용어가 아니라, 그 시점에 가장 성능이 높은 최상위 AI 모델을 통틀어 부르는 말이다. 새 모델이 나올 때마다 기준이 올라가며, 다단계 추론이나 큰 코드베이스 분석처럼 품질이 가장 중요한 어려운 작업에 쓴다.
- 프루닝 Pruning프루닝은 모델에서 거의 쓰이지 않는 가중치, 뉴런, 레이어를 잘라내 더 작고 빠르게 만드는 기법으로, 메모리나 속도 제약이 있는 환경에 모델을 올려야 할 때 쓴다. 숫자 정밀도를 낮추는 양자화와 달리 모델의 일부를 아예 없앤다.
- 플래시 어텐션 Flash Attention트랜스포머의 어텐션 계산을 결과는 그대로 두고 GPU 메모리를 덜 오가게 바꾼 알고리즘으로, 모델은 그대로 두고 켜기만 하면 긴 입력을 더 적은 메모리로 더 빠르게 처리한다. 근사 어텐션과 달리 결과가 똑같아서 학습, 파인튜닝, 추론 서버에서 거의 기본처럼 쓰인다.
- 확장 사고 Extended Thinking확장 사고는 모델이 답하기 전에 연습장에 먼저 풀어 보듯 별도의 사고 블록에서 문제를 단계별로 따져 보게 하는 기능으로, 수학·코딩·큰 계획처럼 바로 답하면 틀리기 쉬운 작업에 켠다. 다른 모델로 바뀌는 게 아니라 같은 모델이 시간과 토큰을 더 들여 고민하는 것이다.
- 활성화 함수 Activation Function신경망 뉴런의 출력에 비선형성을 더하는 함수로, 이게 없으면 층을 아무리 쌓아도 하나의 선형 변환과 같아 복잡한 패턴을 배우지 못한다. 숨은 층에는 ReLU나 GELU, 마지막 층에는 문제 종류에 맞춰 Sigmoid나 Softmax를 쓴다.
- 희소 어텐션 Sparse Attention트랜스포머가 모든 토큰 쌍을 비교하지 않고 관련 있어 보이는 토큰만 골라 어텐션을 계산해서, 긴 입력을 싸고 빠르게 처리하는 방법이다. 기본 어텐션은 입력이 길어질수록 계산이 제곱으로 불어나 책 한 권 분량부터 버거운데, 희소 어텐션은 이 부담을 줄여 긴 코드베이스나 문서를 통째로 넣는 작업에서 효과가 크다.
- BERT Bidirectional Encoder Representations from Transformers2018년 구글이 내놓은 언어 모델로, 문장을 앞뒤 양쪽에서 한꺼번에 읽어 뜻을 파악한다. 긴 글은 쓰지 못하지만 텍스트 분류·검색용 임베딩·리랭킹처럼 많은 양을 싸고 빠르게 판정해야 할 때 쓰고, 글쓰기는 GPT 계열에 맡기는 식으로 나눠 쓴다.
- DPO Direct Preference Optimization"이 답이 저 답보다 낫다"는 선호 쌍 데이터만으로 모델을 직접 학습시키는 정렬 방법으로, RLHF와 달리 보상 모델과 강화학습이 필요 없어 구현이 간단하고 학습이 안정적이다. SFT로 지시 따르기를 먼저 가르친 모델에 말투·형식·도메인 선호를 입힐 때 쓴다.
- FLUX FLUX (Black Forest Labs)Stable Diffusion을 만든 사람들이 세운 Black Forest Labs의 이미지 생성 모델로, 특히 이미지 안에 글자를 또렷하게 넣어야 할 때 쓴다. API 전용 버전부터 내 GPU에서 직접 돌리는 공개 버전까지 용도와 라이선스에 따라 여러 버전으로 나뉜다.
- GAN Generative Adversarial Network가짜를 만드는 생성자와 가짜를 가려내는 판별자, 두 신경망이 서로 겨루며 함께 실력이 느는 생성 모델이다. 진짜 같은 가짜 데이터를 만들어 얼굴 이미지 생성, 사진 변환, 부족한 학습 데이터 보강에 쓴다.
- GLM GLM (Zhipu AI)중국 Zhipu AI(Z.ai)가 모델 파일을 MIT 라이선스로 통째로 공개하는 오픈소스 언어 모델 계열이다. GPT·Claude 같은 폐쇄형과 달리 직접 호스팅하거나 파인튜닝할 수 있어서, 코딩·에이전트 작업을 싸게 돌리거나 데이터를 밖으로 보내면 안 될 때 쓴다.
- GLM 5.2 GLM 5.2 (Z.ai)GLM 5.2는 Z.ai(옛 Zhipu AI)가 MIT 라이선스로 공개한 오픈 웨이트 코딩 모델로, 수십 개 파일을 읽고 고치고 테스트를 돌리는 몇 시간짜리 긴 작업을 흐트러지지 않고 끝내도록 만들어졌다. 질문 하나에 답할 때보다 코드베이스 전체 분석이나 여러 단계에 걸친 대규모 리팩토링처럼 오래 붙들고 있어야 하는 일에 쓴다.
- GLM 5.3 GLM 5.3 (Z.ai)GLM 5.3은 중국 Z.ai(옛 Zhipu AI)가 2026년 8월 공개한 오픈 웨이트 코딩·에이전트 모델로, 복잡한 코딩이나 오래 걸리는 에이전트 작업을 맡길 때 코딩 에이전트의 백엔드로 바꿔 끼우거나 직접 서버에 띄워 쓴다. GLM-5.2와 같은 베이스 모델에 며칠짜리 실전 개발 과제를 많이 훈련시켜 코딩 실력을 올렸지만, 해킹 능력도 함께 강해져 보안 논쟁이 일고 있다.
- GPT Generative Pre-trained TransformerGPT(Generative Pre-trained Transformer)는 OpenAI의 언어 모델 시리즈다. 방대한 글을 미리 배운 뒤 다음 단어를 하나씩 이어 쓰는 방식으로 답을 만든다. 과제마다 모델을 새로 훈련하지 않고 모델 하나에 말로 일을 시키는 방식이 GPT에서 시작됐다. 대화·글쓰기·코딩에 두루 쓰이고, 지금 쓰이는 LLM 대부분의 기본 틀이 됐다.
- GPT-5.5 GPT-5.5 (OpenAI)OpenAI가 2026년 4월 내놓은 플래그십 모델로, 여러 단계로 얽힌 일을 맡기면 스스로 계획하고 도구를 쓰고 결과를 확인하며 끝까지 해낸다. ChatGPT·Codex·API에서 쓸 수 있고, 터미널 자동화나 오래 도는 코딩 에이전트처럼 맡겨 두고 끝까지 밀고 나가야 하는 일에 쓴다.
- GPT-5.6 GPT-5.6 Sol (OpenAI)GPT-5.6은 OpenAI가 2026년 6월 공개한 모델 시리즈로, Sol·Terra·Luna 세 등급 가운데 최상위인 Sol은 OpenAI가 역대 최강이라고 소개한 모델이다. 코딩·사이버보안·생물학처럼 여러 단계를 오래 이어 가는 에이전트 작업에 강하지만, 출시 당시에는 미국 정부 요청으로 소수의 신뢰 파트너에게만 프리뷰로 제공됐다.
- GPT-5.6 Luna GPT-5.6 Luna (OpenAI)GPT-5.6 Luna는 GPT-5.6 패밀리에서 가장 빠르고 가장 싼 모델로, 토큰 단가가 Sol의 5분의 1이다. 분류·모더레이션·빠른 챗봇처럼 요청이 많고 빨리 답해야 하는 일에 쓰고, 어려운 추론은 Sol·Terra 같은 상위 모델에 넘긴다.
- GPT-5.6 Terra GPT-5.6 Terra (OpenAI)GPT-5.6 Terra는 OpenAI가 2026년 7월 9일 출시한 GPT-5.6 패밀리의 중간 등급 모델로, 플래그십 Sol보다 싸고 최저가 Luna보다 성능이 높다. 결과물의 질이 중요하면서 양도 많은 문서 분석, 코드 리뷰, 업무 자동화를 Sol보다 적은 비용으로 돌릴 때 쓴다.
- GPT-6 루나 GPT-6 Luna (OpenAI)GPT-6 루나는 OpenAI GPT-6 제품군에서 가장 빠르고 가장 싼 모델로, 분류·추출처럼 요청이 많은 작업이나 에이전트 안의 반복 작업을 싸게 맡길 때 쓴다. GPT-6에는 중간 등급이 없어서 판단이 필요한 일은 솔이나 아스트라에, 많은 양을 빠르게 처리하는 일은 루나에 넘기면 된다.
- GPT-6 솔 GPT-6 Sol (OpenAI)OpenAI GPT-6 시리즈의 주력 모델로, 일상적인 코딩과 에이전트 작업을 최상위 모델 Astra의 5분의 1 가격으로 돌릴 때 쓴다. 정말 어려운 문제만 Astra로, 단순 반복 작업은 Luna로 보내면 된다.
- GPT-6 아스트라 GPT-6 Astra (OpenAI)GPT-6 아스트라는 OpenAI가 2026년 9월에 내놓은 GPT-6 계열의 최상위 모델로, 브라우저 조작·코딩·문서 작업처럼 컴퓨터로 하는 일을 사람이 단계마다 지시하지 않아도 끝까지 이어서 처리한다. 값이 가장 비싸서 가장 어렵고 오래 걸리는 작업에만 쓰고, 매일 하는 일은 값이 싼 Sol에 맡기면 된다.
- GPT-6.1 솔 GPT-6.1 Sol (OpenAI)GPT-6.1 솔은 2026년 9월 DevDay에서 나온 GPT-6 Sol의 후속판으로, 가격은 같으면서 실수가 줄어 최상위 모델 Astra에 가까운 성능을 5분의 1 가격에 낸다. 코딩 에이전트, 컴퓨터 사용, 문서가 많은 업무 자동화를 싸게 돌리고 싶을 때 기본 모델로 쓴다.
- GPT-6.1 테라 GPT-6.1 Terra (OpenAI)OpenAI GPT-6.1 라인업의 중간급 실무 모델로, 이미지 분석·화면 조작·문서 작성처럼 양이 많은 일을 GPT-6.1 Sol의 절반 가격으로 처리할 때 쓴다.
- GRPO Group Relative Policy Optimization별도 비평 모델 없이 같은 질문에 답을 여러 개 만들고, 그 묶음 안에서 평균보다 나은 답은 더 자주, 못한 답은 덜 나오도록 학습시키는 강화학습 방법이다. 수학 정답이나 코드 테스트 통과처럼 맞고 틀림을 자동으로 채점할 수 있는 작업에서 언어 모델의 추론 능력을 키울 때 쓴다.
- KV 캐시 KV CacheKV 캐시는 LLM이 글을 만들 때 앞에서 계산한 결과(Key·Value)를 메모처럼 저장해 두고 새 토큰만 추가로 계산하게 해서 생성 속도를 크게 높이는 장치다. 대신 GPU 메모리를 많이 쓰고, 개발자는 API의 프롬프트 캐싱으로 반복되는 앞부분의 비용과 대기 시간을 줄일 때 직접 쓰게 된다.
- Laguna XS 2.1 Poolside Laguna XS 2.1Poolside가 만든 코딩 특화 MoE 모델로, 전체 33B 중 토큰당 3B만 계산에 써서 내 컴퓨터에서 돌릴 수 있는 에이전트 코딩 모델이 필요할 때 고른다. 코드 수정이나 터미널 명령 실행처럼 여러 단계를 이어 가는 긴 작업에 맞춰져 있다.
- LoRA Low-Rank Adaptation원본 모델은 그대로 두고 옆에 붙인 작은 행렬 두 개만 학습하는 파인튜닝 기법으로, GPU 한 장으로도 대형 모델에 말투·출력 형식·화풍 같은 것을 가르칠 때 쓴다. 학습하는 양은 전체의 1% 안팎이지만 성능은 전체 파인튜닝과 거의 비슷하다.
- MoE Mixture of Experts모델 안에 여러 전문가 신경망을 두고, 라우터가 토큰마다 몇 개만 골라 계산하는 구조다. 전체 지식(총 파라미터)은 크게 늘리면서 토큰당 계산(활성 파라미터)은 작게 유지할 수 있어 대형 오픈 모델 대부분이 쓰고, 로컬에서 직접 돌릴 때 특히 알아 둬야 한다.
- OLMo 3 OLMo 3 (AllenAI)OLMo 3는 비영리 연구소 AllenAI(Ai2)가 2025년 11월에 내놓은 완전 공개 언어 모델이다. 가중치뿐 아니라 학습 데이터·코드·중간 체크포인트까지 공개하고 Apache 2.0이라 상업적으로도 자유롭게 쓸 수 있어, 모델 내부를 연구하거나 투명한 오픈 모델을 로컬에서 직접 돌릴 때 쓴다.
- Phi-4 Phi-4 (Microsoft)Phi-4는 마이크로소프트가 만든 140억 파라미터 규모의 작지만 추론을 잘하는 오픈 모델로, 수학과 논리 문제에서는 자기보다 훨씬 큰 모델을 앞서기도 한다. 노트북이나 작은 서버 한 대에서 비용과 속도를 아끼면서도 추론력이 필요한 작업을 맡길 때 쓴다.
- QLoRA Quantized LoRALoRA에 4비트 양자화를 더해, 베이스 모델은 4비트로 압축해 고정하고 작은 LoRA 어댑터만 16비트로 학습하는 파인튜닝 기법이다. GPU 메모리가 부족해 일반 LoRA로도 모델이 올라가지 않을 때 쓰며, 개인 GPU 한 장으로도 큰 모델을 파인튜닝할 수 있다.
- RLHF RL from Human Feedback사전학습을 마친 LLM을 사람이 더 나은 답을 고른 선호 데이터로 다듬어 도움이 되고 해롭지 않은 어시스턴트로 만드는 학습 기법이다. 능력은 사전학습이 만들고 말투·거절·장황함 같은 모델의 "성격"은 RLHF가 만든다. 그래서 모델 행동을 이해하거나 직접 선호 학습을 해볼 때 알아두면 좋다.
- SAM 3 Segment Anything Model 3 (Meta)Meta가 공개한 이미지·영상 분할 모델로, "노란 스쿨버스" 같은 짧은 문구나 예시 이미지 하나로 해당 객체를 전부 찾아 마스크를 그리고 영상에서 따라간다. 레이블링 자동화나 영상 편집에서 객체를 일일이 클릭하기 번거로울 때 쓴다.
- SFT Supervised Fine-Tuning질문과 좋은 답변을 짝지은 데이터로 사전학습 모델을 추가 학습해, 모델이 지시를 따르고 원하는 형식과 말투로 답하게 만드는 방법이다. RLHF나 DPO 같은 선호 학습보다 먼저 거치는 첫 단계다.