
Open WebUI 是一個功能強大、自架且開源的平台,它使用戶能夠直接從自己的機器上運行 AI 語言模型,從而確保完全掌控資料。它相容於各種本地模型,包括 Ollama,同時也支援與 OpenAI 相容的 API。安裝靈活性是其關鍵特性,因為 Open WebUI 可以使用 Docker、Python 或 Kubernetes 進行設定。在以下指南中,我們將逐步介紹在個人電腦上安裝 Open WebUI 的全面流程。
使用 Open WebUI 的好處
Open WebUI提供了一個直覺且靈活的 AI 應用平台,可根據您的特定需求進行客製化。它支援多種 AI 模型,相容於所有主流作業系統,並擁有類似 ChatGPT 的用戶友好介面。其主要功能包括 Markdown、LaTeX、插件整合以及用於高效內容儲存的高級記憶體系統。
這款多功能工具允許用戶連接插件、管理多個聊天線程並保存提示以供將來參考。作為一項開源計劃,Open WebUI 依靠社群驅動的增強功能蓬勃發展,促進了快速的演進升級和新功能的開發。
安裝 Open WebUI
要透過 Docker 開始使用 Open WebUI,首先需要建立專案目錄並導航到該目錄:
mkdir openwebuicd openwebui
接下來,使用您喜歡的文字編輯器(例如記事本)建立一個名為「docker-compose.yml」的新檔案:
nano docker-compose.yml
在新建的「docker-compose.yml」檔案中插入以下配置:
services: ollama: image: ollama/ollama:latest container_name: ollama ports: - "11434:11434" environment: - OLLAMA_USE_GPU=false volumes: - ollama_data:/root/.ollama restart: unless-stopped openwebui: image: ghcr.io/open-webui/open-webui:main container_name: openwebui ports: - "3000:8080" environment: - OLLAMA_BASE_URL=http://ollama:11434 depends_on: - ollama volumes: - open-webui:/app/backend/data restart: unless-stopped volumes: open-webui: ollama_data:
此配置初始化兩個基本服務:ollama和OpenWebUI。 ollama服務使用 ollama/ollama 容器,對應到連接埠 11434,停用 GPU 加速,並將資料保存在 ollama_data 磁碟區中。同時,OpenWebUI服務存取 open-webui 容器,將流量從連接埠 3000 路由到連接埠 8080,同時依賴 ollama 服務進行操作。除非手動停止,否則這兩個服務都包含自動重新啟動選項,命名磁碟區可確保資料持久化。
儲存Docker Compose配置後,使用以下指令啟動Docker服務:
docker compose up -d

存取 Open WebUI
容器啟動並執行後,開啟您常用的 Web 瀏覽器並導航至http://localhost:3000。此操作將直接從您的電腦載入 Open WebUI 介面。要開始設定過程,只需點擊“開始”按鈕即可。

接下來,輸入您的姓名、電子郵件和密碼,然後按一下建立管理員帳戶按鈕來建立您的管理員帳戶。

現在您的帳戶已創建,您可以登入以存取 Open WebUI 儀表板。

使用 Ollama 安裝 AI 模型
雖然 Open WebUI 提供了全面的介面,但它需要您至少安裝一個本機 AI 模型才能正常運作。幸運的是,使用 Ollama 簡化了這個過程。您可以根據需求和可用的系統資源,從各種模型中進行選擇,包括 llama3、mistral、gemma 或 vicuna。
為了演示,我們將安裝gemma:2b,它以比大型模型更有效率的資源利用率而聞名。若要啟動安裝,請點擊您的個人資料圖標,然後選擇「管理面板」選項以存取管理儀表板。

在儀表板中,找到並點擊右上角的下載圖示即可開始下載模型。

指定模型名稱後,按一下下載按鈕繼續。

成功下載模型後,將顯示確認成功訊息:

此時,您可以從 Open WebUI 介面中選擇一個模型並開始使用它進行查詢。

利用開放的 WebUI
選擇模型後,您就可以開始提出問題了。例如,當我問「什麼是 Docker Compose?」時,Open WebUI 提供了以下有價值的答案:

想要發起新的對話,且不保留先前討論的內容,只需點擊左側選單中的「新聊天」即可。當您想要切換到完全不同的主題,且不受先前討論內容的影響時,此功能尤其有用。

搜尋功能可讓您在已儲存的聊天記錄中尋找過去的對話或特定關鍵字。只要輸入一個字或短語,系統就會篩選結果,讓您快速回顧先前的見解或提示。


工作區提供了一個結構化的環境,用於無縫管理各種項目,避免混淆。這對於編碼、寫作或任何長期工作都特別有用。 Open WebUI 包含以下選項卡:
- 模型標籤– 發現和下載社區模型或預設,從外部來源匯入模型,以及管理已安裝的模型。
- 知識標籤-瀏覽社群知識包或匯入您的文件(PDF、文字、CSV)以供 AI 在回覆中使用。
- 提示選項卡– 探索社區模板,匯入現有提示,並將其應用於不同的聊天。
- 工具標籤– 尋找或匯入程式碼執行器、抓取器或摘要器等工具,以便在聊天中直接用於自動化或專門任務。

聊天部分顯示您與人工智慧的對話歷史記錄,讓您可以重新開啟先前的聊天或刪除不再需要的聊天:

Open WebUI 中的聊天控制項
聊天控制面板提供調整 AI 對話風格和回應的選項。您可以設定係統提示來影響 AI 的語氣或行為,以及自訂進階參數,例如串流聊天回應、區塊大小、函數呼叫、種子、停止順序、溫度和推理工作量。您可以自由自訂這些參數,也可以保留其預設值以獲得標準效能。

透過點擊個人資料圖標,您可以存取使用者選單,其中包括設定、存檔聊天、遊樂場、管理面板、文件、發行說明、鍵盤快捷鍵、登出和查看活躍用戶的選項。

結論
雖然設定 Open WebUI 需要投入一些初始時間,但其優勢遠超投入。該平台允許用戶自由地完全控制其數據、選擇偏好的模型並個性化介面,而無需依賴第三方伺服器。安裝完成後,您可以完全離線操作模型,就像在終端機中使用 Gemini CLI AI Agent 一樣。
發佈留言