Phi-4

Phi-4는 마이크로소프트가 만든 140억 파라미터 규모의 작지만 추론을 잘하는 오픈 모델로, 수학과 논리 문제에서는 자기보다 훨씬 큰 모델을 앞서기도 한다. 노트북이나 작은 서버 한 대에서 비용과 속도를 아끼면서도 추론력이 필요한 작업을 맡길 때 쓴다.

크기는 파라미터 수다. 14B는 140억 개를 뜻한다.

내 컴퓨터에서 바로 띄운다

오픈 모델이라 누구나 받아서 직접 실행할 수 있다. 가장 쉬운 방법은 ollama run phi4로 내 컴퓨터에 띄우는 것이다. 데이터를 클라우드로 보내지 않아도 되므로 사내 문서나 민감한 데이터를 다룰 때 좋다.

비싼 대형 모델 대신 쓰는 자리

대량의 문서를 분류하거나 수식이 섞인 질문에 답하는 일을 대형 모델 API로 매번 처리하면 비용이 많이 든다. 이런 반복 작업은 Phi-4 한 대로 처리하면 훨씬 저렴하다. 도구를 호출하는 에이전트를 만들 때는 더 작은 Phi-4-mini를 쓰고, 이미지나 음성이 섞이면 multimodal을 고르면 된다.

작은 비결은 잘 고른 데이터

모델을 키우는 대신 학습 데이터의 질을 크게 높였다. 인터넷 글을 마구 모으지 않고, AI가 만든 고품질 합성 데이터와 엄선한 교과서·문제풀이 자료로 학습했다. 아무 책이나 많이 읽히는 대신 잘 정리된 문제집으로 공부시킨 셈이다.

넓은 지식과 긴 대화는 약하다

작은 모델이라 폭넓은 세상 지식이나 길고 복잡한 대화에서는 대형 모델만큼 안정적이지 않다. 틀린 답을 자신 있게 내놓는 환각도 여전하다. 고위험 분야에 쓰기 전에는 정확도와 안전성을 따로 검증해야 한다.

로컬 비서와 대량 처리에 주로 쓴다

가장 흔한 건 클라우드 없이 내 장비에서 돌리는 방식이다. 가볍고 무료로 받을 수 있어서, 데이터를 밖으로 보내기 어렵거나 호출량이 많아 API 비용이 부담될 때 기본 모델로 둔다.