Ubuntu 22.04 架設 Ollama + Open WebUI 教學|私有 ChatGPT 完整指南(Docker 部署)

在 Ubuntu 22.04 上架設 Ollama 與 Open WebUI,可以打造一套完全本地運行的私有 ChatGPT 系統,不需要 OpenAI API,也不依賴雲端服務。本篇教學將帶你一步一步完成 Ollama 安裝、模型下載與 Open WebUI 架設,並提供完整驗證流程,確保每一步都可以成功執行。即使是新手,也能依照本文建立自己的本地 AI 助手環境,支援 Llama3、Mistral 與 Qwen2.5 等模型。

Ollama 安裝與驗證

Ollama 是本地 LLM 執行核心工具,可在 Ubuntu 22.04 上直接運行大型語言模型。本段將完整示範安裝流程、服務啟動與 API 驗證,確保系統可正常運作。

項目說明
Ollama 功能本地執行 LLM 模型 API
預設埠11434
支援模型Llama3 / Mistral / Qwen2.5
# 更新系統
sudo apt update && sudo apt upgrade -y

# 安裝 Ollama
curl -fsSL https://ollama.com/install.sh | sh

# 檢查服務狀態
systemctl status ollama

# API 驗證
curl http://localhost:11434/api/tags

# 執行模型測試
ollama run llama3

👉 Ubuntu 22.04 上部署 Ollama 本地 LLM 模型時(如 Llama3 / Mistral / Qwen2.5), 建議搭配完整安裝教學流程,可參考: Ubuntu 22.04 安裝 Ollama 教學(本地 LLM 完整部署)

Open WebUI 架設與連線

Open WebUI 是 Ollama 的圖形化介面,可透過瀏覽器操作 AI 模型。本段將示範 Docker 安裝流程與正確連線方式,避免 Docker 與 localhost 造成連線錯誤。

項目說明
Open WebUIAI 聊天介面
連接方式Ollama API (11434)
埠號3000
# 安裝 Docker
sudo apt install docker.io -y

# 啟動 Docker
sudo systemctl enable docker
sudo systemctl start docker

# 執行 Open WebUI
docker run -d \
  --name open-webui \
  --network=host \
  -e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
  -v open-webui:/app/backend/data \
  --restart always \
  ghcr.io/open-webui/open-webui:main

系統驗證

完成安裝後,請依照以下方式確認系統是否正常運行,確保 Ollama 與 Open WebUI 已成功連線。

檢查項目指令
Ollama 模型列表ollama list
API 測試curl http://localhost:11434/api/tags
Docker 容器docker ps
# 查看已安裝模型
ollama list

# API 測試
curl http://localhost:11434/api/tags

# Docker 容器狀態
docker ps

FAQ 常見問題

Ollama 安裝完成但無法啟動怎麼辦?

通常是服務未正常啟動或系統狀態異常。可以使用 systemctl restart ollama 重新啟動服務,並透過 systemctl status ollama 確認是否為 active (running)。若仍失敗,建議重新執行官方安裝腳本,確保環境完整。

Open WebUI 無法連接 Ollama API?

主要原因是 Docker 與 localhost 連線問題。本版本已改為 –network=host,可直接解決 127.0.0.1 容器隔離問題。如果仍有問題,請確認 curl http://localhost:11434/api/tags 是否正常回應。

Ollama 模型下載速度很慢怎麼辦?

模型下載速度取決於網路環境,可改用較小模型如 mistral 或 phi 測試。企業環境可使用代理或內網快取提升下載速度,也可以預先使用 ollama pull 下載模型。

Open WebUI 無法開啟 3000 端口?

請確認 docker ps 是否正常運行容器,並檢查防火牆設定(如 ufw allow 3000)。本版本使用 –network=host,因此通常不需額外開 port,但仍需確認系統防火牆未阻擋。

Ollama 是否支援 GPU 加速?

支援 NVIDIA GPU 自動 CUDA 加速,但需正確安裝 NVIDIA 驅動。若沒有 GPU,仍可正常運行,只是速度較慢,適合測試或輕量使用。

這套系統適合企業使用嗎?

適合,因為 Ollama + Open WebUI 完全在本地運行,不需外部 API,資料不會離開內網。非常適合企業內部 AI 助手、文件查詢與私有聊天系統建置。