오픈 웹UI

Open WebUI는 Ollama 같은 백엔드로 내 컴퓨터나 사내 서버에서 돌리는 LLM을 ChatGPT 같은 브라우저 화면으로 쓰게 해주는 오픈소스 웹 인터페이스다. 터미널로 대화하기 불편할 때, 또는 데이터를 외부로 보내지 않고 팀이 함께 쓸 채팅 화면이 필요할 때 쓴다.

터미널 대신 익숙한 채팅 화면

Ollama만 쓰면 터미널에서만 대화할 수 있고, 기록이 남지 않으며, 모델을 바꾸려면 명령어를 다시 쳐야 한다. Open WebUI를 붙이면 대화가 저장되고, 모델은 드롭다운으로 바꾸고, 파일을 올려 질문할 수 있다.

모델이 로컬에서 돌기 때문에 대화 내용과 문서가 외부 서비스로 나가지 않는다. 사내 문서처럼 밖으로 보내기 어려운 자료를 다룰 때 특히 쓸모 있다.

Docker 한 줄로 설치, 첫 계정이 관리자

Ollama가 같은 머신에서 돌고 있다면 아래 명령 하나로 끝난다. 실행 뒤 브라우저에서 http://localhost:3000에 접속해 계정을 만들면 되고, 처음 만든 계정이 관리자가 된다.

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

Ollama가 다른 서버에 있으면 OLLAMA_BASE_URL 환경 변수로 주소를 알려주면 된다. OpenAI 호환 API 주소와 키를 설정에 넣으면 클라우드 모델도 같은 화면에서 함께 고를 수 있다.

문서 질문과 팀 공유까지

RAG 기능이 들어 있어 문서를 올리면 자동으로 인덱싱하고, 모델이 그 내용을 참고해 답한다. 매뉴얼이나 회의록을 올려 두고 "이 규정에서 휴가 조건이 뭐야?"처럼 물으면 된다.

여러 사용자를 지원해 팀이 인스턴스 하나를 같이 쓸 수 있다. 역할 기반 접근 제어(RBAC)로 관리자와 일반 사용자를 나누고, 사용자마다 쓸 수 있는 모델을 정할 수 있다.

모델은 따로, 데이터는 볼륨에

Open WebUI는 화면일 뿐 모델을 직접 실행하지 않는다. Ollama 같은 백엔드가 반드시 있어야 하고, 답변 속도와 품질은 그 백엔드와 하드웨어가 정한다.

대화 기록과 업로드한 문서는 -v로 지정한 볼륨에 저장되므로, 볼륨을 지우면 모두 사라진다. 팀 밖에서 접속하게 열어 둘 때는 HTTPS를 적용하고 회원가입을 관리자 승인제로 두는 게 안전하다.

개인 PC 채팅부터 사내 AI 창구까지

가장 흔한 쓰임은 Ollama 앞에 붙이는 채팅 화면이다. 혼자 쓸 때는 로컬 모델용 ChatGPT처럼 쓰고, 팀에서는 서버 하나에 띄워 외부로 데이터를 보내지 않는 공용 채팅 창구로 쓴다.