WSL DOCKER로 코딩 없이 챗봇 UI 만들기 (Open WebUI)

 

WSL로 DOCKER로 코딩 없이 챗봇 UI 만들기

 

 

1. Ollama 설치 및 모델 다운로드
먼저 엔진 역할을 하는 Ollama를 설치해야 합니다.
설치: Ollama 공식 웹사이트에서 OS(Windows, macOS, Linux)에 맞는 설치 파일을 내려받아 설치합니다.
모델 다운로드: 설치 후 터미널(CMD 또는 PowerShell)을 열고 아래 명령어를 입력하여 인공지능 모델을 내려받습니다.
한국어 성능이 좋은 모델 추천: ollama pull llama3.2 또는 ollama pull gemma2
실행 테스트: 터미널에서 ollama run llama3.2를 입력하면 바로 대화가 가능합니다.

2. Ollama에 모델이 있는지 확인
먼저 로컬 PC에 모델이 실제로 설치되어 있는지 확인해야 합니다. 터미널(CMD 또는 PowerShell)을 열고 입력하세요.
목록이 비어 있다면: ollama run llama3.2를 입력하여 모델을 먼저 다운로드하세요.
목록에 모델이 있다면: 아래 2번 단계(연결 설정)로 넘어갑니다.

3. Ollama 서버 환경 변수 설정 (중요)
Ollama는 기본적으로 보안을 위해 외부 접속을 차단합니다. 도커 컨테이너(Open WebUI)가 접근할 수 있도록 허용해줘야 합니다.
Windows 기준:
작업표시줄 오른쪽 하단 트레이에서 **Ollama 아이콘을 오른쪽 클릭하여 'Quit Ollama'**로 완전히 종료합니다.
제어판 > 시스템 환경 변수 편집으로 들어갑니다.
환경 변수 버튼을 누르고 '사용자 변수'에 새로 만들기를 클릭합니다.
변수 이름: OLLAMA_ORIGINS
변수 값: *
확인을 누른 뒤 Ollama를 다시 실행합니다.

4. 윈도우 포트 포워딩 (Port Forwarding)
윈도우로 들어오는 요청을 WSL 내부 IP로 직접 토스해주는 방식입니다. mirrored 모드가 나오기 전까지 가장 표준적으로 사용되던 방법입니다.
WSL IP 확인: 터미널에서 hostname -I로 IP를 확인합니다 (예: 172.18.90.141).
PowerShell을 관리자 권한으로 실행합니다.
포워딩 명령어 입력: 아래 명령어를 입력하여 윈도우의 3000번 포트를 WSL의 3000번 포트로 연결합니다.
netsh interface portproxy add v4tov4 listenport=3000 listenaddress=0.0.0.0 connectport=3000 connectaddress=172.18.90.141

방화벽 허용: 윈도우 방화벽에서 3000번 포트 인바운드 규칙을 추가해야 합니다.

5. 윈도우 포트 포워딩 (Port Forwarding)

6. 코딩 없이 챗봇 UI 만들기 (Open WebUI)
가장 추천하는 방법입니다. ChatGPT와 똑같은 화면에서 로컬 AI를 사용할 수 있습니다.
설치 방법: Docker가 설치되어 있다면 터미널에 아래 명령어를 입력하세요.

docker rm -f open-webui

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host_ip:11434 \
  -v open-webui:/app/data \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main