Ollama und Open WebUI auf dem VPS: privater ChatGPT-Ersatz in zehn Minuten
Wer eine Ubuntu-VPS mit mindestens 8 GB RAM besitzt, kann darin ein offenes KI-Modell mit Web-Oberflaeche betreiben. Ollama laesst sich mit einem Skript installieren, anschliessend genuegt ein kleines Modell ohne GPU fuer den Start.
Kommen wir direkt zur Sache. Sie haben eine VPS mit Ubuntu und mindestens 8 GB RAM und möchten ein offenes KI-Modell mit Weboberfläche betreiben. Das sind vier Schritte.
curl -fsSL https://ollama.com/install.sh | sh ollama --version 2. Ein kleines Modell herunterladen Ohne GPU sollten Sie mit Modellen mit 3 bis 8 Milliarden Parametern beginnen. Mit 8 GB RAM ist ein 3B-Modell am angenehmsten zu betreiben:
ollama pull llama3.2:3b ollama run llama3.2:3b "Erkläre in zwei Sätzen, was eine VPS ist" 3. Docker installieren und Open WebUI starten curl -fsSL https://get.docker.com | sh docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/open-webui --name open-webui --restart always ghcr.io/open-webui/open-webui:main Öffnen Sie die Adresse Ihrer VPS auf Port 3000 im Browser, erstellen Sie den Admin-Benutzer (die erste Registrierung wird automatisch zum Admin), und die Oberfläche erkennt Ollama automatisch.
Falls die Erkennung nicht funktioniert, passen Sie Ollama so an, dass es außerhalb des localhost lauscht: Führen Sie sudo systemctl edit ollama aus, fügen Sie Environment="OLLAMA_HOST=0.0.0.0" hinzu und starten Sie mit sudo systemctl restart ollama neu.
Lassen Sie den Port 3000 nicht für die ganze Welt offen:
sudo ufw allow OpenSSH sudo ufw allow from IHRE_IP to any port 3000 sudo ufw enable Grenzen Reines CPU-Hosting ist langsam: Rechnen Sie mit deutlich langsameren Antworten als bei ChatGPT. Für große Modelle macht eine stundenweise gemietete GPU mehr Sinn.
Referenzangebot: Hostinger (KVM 2: 2 vCPU, 8 GB RAM, zum aktuellen Aktionspreis, Preis am 26.10. geprüft).
Video und Newsletter finden Sie auf Substack. Der Autor hat zudem über KI-Stimmen auf Portugiesisch geschrieben.
Einige Links sind Affiliate-Links: Wenn Sie darüber einkaufen, erhält der Autor eine Provision, und Sie zahlen keinen Cent mehr.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Vamos direto ao que interessa. Você tem uma VPS Ubuntu com pelo menos 8 GB de RAM e quer rodar um modelo de IA aberto com interface web. São quatro passos.
curl -fsSL https://ollama.com/install.sh | sh ollama --version Enter fullscreen mode Exit fullscreen mode 2. Baixar um modelo pequeno Sem GPU, comece com modelos de 3B a 8B parâmetros. Em 8 GB de RAM, o 3B é o mais confortável:
ollama pull llama3.2:3b ollama run llama3.2:3b "Explique o que é uma VPS em duas frases" Enter fullscreen mode Exit fullscreen mode 3. Instalar o Docker e subir o Open WebUI curl -fsSL https://get.docker.com | sh docker run -d -p 3000:8080 \ --add-host = host.docker.internal:host-gateway \ -v open-webui:/app/backend/open-webui \ --name open-webui --restart always \ ghcr.io/open-webui/open-webui:main Enter fullscreen mode Exit fullscreen mode Abra http://IP_DA_VPS:3000, crie o usuário admin (o primeiro cadastro vira admin) e ele detecta o Ollama.
Se não detectar, ajuste o Ollama pra escutar fora do localhost: sudo systemctl edit ollama, adicione Environment="OLLAMA_HOST=0.0.0.0" e rode sudo systemctl restart ollama.
Não deixe a porta 3000 aberta pro mundo:
sudo ufw allow OpenSSH sudo ufw allow from SEU_IP to any port 3000 sudo ufw enable Enter fullscreen mode Exit fullscreen mode Limites CPU puro é lento: espere respostas bem mais devagar que no ChatGPT. Pra modelos grandes, aluguel de GPU por hora faz mais sentido.
Plano de referência: Hostinger (KVM 2: 2 vCPU, 8 GB RAM, R$ 42,99/mês na promo atual, preço verificado em 26/10): https://go.nowto.link/hostinger
Vídeo e newsletter: https://nuvemdev.substack.com. Também escrevi sobre voz de IA em português: https://dev.to/nuvemdev/narracao-em-portugues-com-ia-de-graca-no-linux-piper-tts-ffmpeg-575h
Alguns links são de afiliado: se você comprar, eu ganho uma comissão e você não paga nada a mais.