쓰라린 교훈

리처드 서튼이 2019년 에세이에서 정리한 관찰로, 사람의 지식을 직접 넣는 방법보다 계산량이 늘수록 함께 좋아지는 범용 방법(탐색·학습)이 결국 이긴다는 내용이다. 연구자뿐 아니라 프롬프트와 에이전트를 만드는 개발자도 '모델이 좋아져도 이 설계가 살아남을까'를 따지는 기준으로 쓴다.

강화학습 연구자 서튼이 70년 AI 연구를 돌아보며 쓴 짧은 에세이에서 나온 말이다. 사람 지식을 넣으면 처음엔 빨리 앞서지만, 시간이 지나면 범용 방법이 큰 차이로 이긴다.

같은 일이 분야마다 되풀이됐다

서튼은 체스, 바둑, 음성 인식, 컴퓨터 비전을 예로 든다. 어느 분야든 처음엔 사람의 이해를 넣은 방법이 앞섰지만, 계산을 많이 쓰는 방법이 나오자 밀려났다.

이유는 단위 계산 비용이 계속 지수적으로 떨어지기 때문이다. 이 교훈이 '쓰라린' 건 사람이 생각하는 방식을 기계에 넣는 게 답이라는 연구자들의 믿음을 정면으로 부정하기 때문이다. 그래서 받아들여지기까지 오래 걸렸다.

넣을 건 지식이 아니라 '찾는 방법'

서튼이 남긴 결론은 두 가지다. 첫째, 계산이 아무리 늘어도 계속 좋아지는 방법은 탐색과 학습 두 가지다. 둘째, 마음이 담는 내용(공간, 사물, 대칭 같은 개념)은 끝없이 복잡하니 직접 넣으려 하지 말고, 그 복잡함을 스스로 찾아내는 메타 방법만 넣어야 한다.

어디서나 통하지는 않는다

반론도 있다. 체스나 음성 인식처럼 승패와 정답을 분명히 잴 수 있는 분야에서는 잘 맞지만, 목표를 수치로 정하기 어려운 업무에서도 그럴지는 확실하지 않다. 물리·생물 같은 과학 분야까지 넓히는 건 지나치다는 비판도 있다. 서튼 본인도 사람이 쓴 글을 흉내 내는 지금의 LLM이 이 교훈을 제대로 따르는지에 의문을 던졌다.

개발자가 묻는 질문: 이 설계, 살아남을까

에이전트나 툴 콜링을 설계할 때 이 교훈은 이렇게 쓰인다. 모델의 약점을 메우려고 복잡한 규칙과 분기를 덧붙이기 전에, 다음 세대 모델이 나오면 그 작업이 쓸모없어지지 않을지 먼저 묻는다. 한 개발자의 말처럼 이 교훈이 쓰라린 건 틀렸다고 해서가 아니라, 공들인 일이 시간이 지나면 무의미해진다고 말해 주기 때문이다. 그래서 하네스는 얇게 두고, 모델이 계산을 더 써서 스스로 풀 여지를 남기는 쪽이 교훈에 맞는 선택이다.

실제로는 무엇을 만들지보다 무엇을 만들지 않을지 정할 때 자주 꺼내는 기준이다.