잉클링

잉클링은 미라 무라티의 Thinking Machines Lab이 Apache 2.0 라이선스로 공개한 첫 오픈 웨이트 모델로, 글·이미지·음성을 입력받아 텍스트로 답한다. 내려받아 내 데이터로 파인튜닝해 쓰라고 만든 모델이라, 코딩 에이전트나 사내 도구를 맞춤형으로 만들 때 고른다.

두 모델 모두 MoE 구조라 토큰마다 일부 전문가만 계산한다. 입력은 텍스트·이미지·오디오.

어디서 쓰나: 허깅페이스, Tinker, Databricks

가중치는 허깅페이스에 올라와 있어 자체 서버에 띄울 수 있다. 서버를 직접 다루기 싫다면 회사의 학습 API인 Tinker에서 바로 써 보고 파인튜닝까지 할 수 있다. 이미 Databricks를 쓰는 팀이라면 출시 당일부터 플랫폼 안에서 부를 수 있고, 권한·감사 로그 같은 기존 관리 규칙이 그대로 적용돼 데이터가 밖으로 나가지 않는다.

파인튜닝해야 진가가 나온다

기본 성능은 오픈 모델 가운데 중간 정도라는 평이 많다. 대신 사내 코드베이스, 내부 문서, 업무 데이터를 학습시켜 특정 작업의 정확도를 끌어올리는 용도로 설계됐다. 예를 들어 회사 코드 스타일과 내부 라이브러리를 학습시킨 코딩 어시스턴트, 사내 문서를 근거로 답하는 RAG 챗봇을 만들 때 출발점으로 쓴다. 생각하는 시간(effort)을 조절할 수 있어서, 복잡한 리팩토링은 길게 생각시키고 단순 질의응답은 짧게 끝내 비용을 맞출 수 있다.

음성 입력과 신뢰도 표시가 강점

음성을 따로 텍스트로 바꾸지 않고 바로 이해해서, 통화 녹음 분석이나 음성 명령을 받는 에이전트에 붙이기 쉽다. 예측을 할 때 확신의 정도를 비교적 정확하게 말해 주도록 훈련됐다는 점도 내세운다. 답의 신뢰도에 따라 사람 검토로 넘길지 정하는 흐름에 쓸 만하다.

최고 성능 모델은 아니다

공식 모델 카드도 환각, 지시를 정확히 못 따르는 경우, 대화가 길어질수록 품질이 떨어지는 문제, 학습 데이터에서 온 편향을 한계로 적고 있다. 최상위 폐쇄형 모델을 그대로 대신하기보다, 맞춤 학습과 데이터 통제가 중요한 곳에 쓰는 게 맞다. 도입 전에 내 작업 데이터로 작은 규모부터 시험해 보는 것이 안전하다.

사내 데이터로 길들여 쓰는 게 주류

가장 흔한 방식은 회사 데이터로 파인튜닝한 맞춤 모델을 만드는 것이다. 데이터가 밖으로 나가면 안 되는 곳에서 직접 띄우거나 Tinker·Databricks 안에서 학습시켜 쓴다.