在 Ubuntu 22.04 上架設 Ollama 與 Open WebUI,可以打造一套完全本地運行的私有 ChatGPT 系統,不需要 OpenAI API,也不依賴雲端服務。本篇教學將帶你一步一步完成 Ollama 安裝、模型下載與 Open WebUI 架設,並提供完整驗證流程,確保每一步都可以成功執行。即使是新手,也能依照本文建立自己的本地 AI 助手環境,支援 Llama3、Mistral 與 Qwen2.5 等模型。
Ollama 安裝與驗證
Ollama 是本地 LLM 執行核心工具,可在 Ubuntu 22.04 上直接運行大型語言模型。本段將完整示範安裝流程、服務啟動與 API 驗證,確保系統可正常運作。
| 項目 | 說明 |
|---|---|
| Ollama 功能 | 本地執行 LLM 模型 API |
| 預設埠 | 11434 |
| 支援模型 | Llama3 / Mistral / Qwen2.5 |
# 更新系統
sudo apt update && sudo apt upgrade -y
# 安裝 Ollama
curl -fsSL https://ollama.com/install.sh | sh
# 檢查服務狀態
systemctl status ollama
# API 驗證
curl http://localhost:11434/api/tags
# 執行模型測試
ollama run llama3
👉 Ubuntu 22.04 上部署 Ollama 本地 LLM 模型時(如 Llama3 / Mistral / Qwen2.5), 建議搭配完整安裝教學流程,可參考: Ubuntu 22.04 安裝 Ollama 教學(本地 LLM 完整部署)
Open WebUI 架設與連線
Open WebUI 是 Ollama 的圖形化介面,可透過瀏覽器操作 AI 模型。本段將示範 Docker 安裝流程與正確連線方式,避免 Docker 與 localhost 造成連線錯誤。
| 項目 | 說明 |
|---|---|
| Open WebUI | AI 聊天介面 |
| 連接方式 | Ollama API (11434) |
| 埠號 | 3000 |
# 安裝 Docker
sudo apt install docker.io -y
# 啟動 Docker
sudo systemctl enable docker
sudo systemctl start docker
# 執行 Open WebUI
docker run -d \
--name open-webui \
--network=host \
-e OLLAMA_BASE_URL=http://127.0.0.1:11434 \
-v open-webui:/app/backend/data \
--restart always \
ghcr.io/open-webui/open-webui:main
系統驗證
完成安裝後,請依照以下方式確認系統是否正常運行,確保 Ollama 與 Open WebUI 已成功連線。
| 檢查項目 | 指令 |
|---|---|
| Ollama 模型列表 | ollama list |
| API 測試 | curl http://localhost:11434/api/tags |
| Docker 容器 | docker ps |
# 查看已安裝模型
ollama list
# API 測試
curl http://localhost:11434/api/tags
# Docker 容器狀態
docker ps
FAQ 常見問題
Ollama 安裝完成但無法啟動怎麼辦?
通常是服務未正常啟動或系統狀態異常。可以使用 systemctl restart ollama 重新啟動服務,並透過 systemctl status ollama 確認是否為 active (running)。若仍失敗,建議重新執行官方安裝腳本,確保環境完整。
Open WebUI 無法連接 Ollama API?
主要原因是 Docker 與 localhost 連線問題。本版本已改為 –network=host,可直接解決 127.0.0.1 容器隔離問題。如果仍有問題,請確認 curl http://localhost:11434/api/tags 是否正常回應。
Ollama 模型下載速度很慢怎麼辦?
模型下載速度取決於網路環境,可改用較小模型如 mistral 或 phi 測試。企業環境可使用代理或內網快取提升下載速度,也可以預先使用 ollama pull 下載模型。
Open WebUI 無法開啟 3000 端口?
請確認 docker ps 是否正常運行容器,並檢查防火牆設定(如 ufw allow 3000)。本版本使用 –network=host,因此通常不需額外開 port,但仍需確認系統防火牆未阻擋。
Ollama 是否支援 GPU 加速?
支援 NVIDIA GPU 自動 CUDA 加速,但需正確安裝 NVIDIA 驅動。若沒有 GPU,仍可正常運行,只是速度較慢,適合測試或輕量使用。
這套系統適合企業使用嗎?
適合,因為 Ollama + Open WebUI 完全在本地運行,不需外部 API,資料不會離開內網。非常適合企業內部 AI 助手、文件查詢與私有聊天系統建置。
