2026年6月29日 星期一

Windows 11 建立本地端 AI (Ollama + qwen2.5-coder:7B + docker + webui)

0.自己本地端設備環境:Ultra 7 155H + 32G RAM + Intel Arc Pro Graphics 128M 

1.ollama 下載 ->下載後點兩下進行安裝

或是 以系統管理員身分開啟 PowerShell 進行安裝
安裝指令:irm https://ollama.com/install.ps1 | iex
  (1).測試是否安裝成功:ollama --version
  (2).檢查有多少模型:ollama list   (3).下載模型指令:ollama pull qwen2.5-coder:7B (4).安裝模型指令:ollama run qwen2.5-coder:7B

2. docker 安裝前,要先安裝 WSL
    (1). 以系統管理員身分開啟 PowerShell 
        安裝指令:wsl --install
    (2). 重啟電腦
    (3). 確認是否安裝成功指令:wsl --version

3.下載 docker desktop ->下載後點兩下進行安裝

或是 以系統管理員身分開啟 PowerShell 進行安裝-> 重啟電腦
安裝指令:winget install -e --id Docker.DockerDesktop
確認是否安裝成功指令:docker --version

4.下 powershell 指令啟動 Open WebUI:
docker run -d ^
--name open-webui ^
-p 3000:8080 ^
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 ^
-v open-webui:/app/backend/data ^
--restart unless-stopped ^
ghcr.io/open-webui/open-webui:main

安裝完後,重開機。該如何啟動本地端AI?
    (1)由於重開機後,ollama 會開機後啟動。所以無需另行啟動。
    (2)只要啟動 docker desktop 即可。
    (3)打開瀏覽器 http://localhost:3000

沒有留言:

張貼留言

Windows 11 建立本地端 AI (Ollama + qwen2.5-coder:7B + docker + webui)

0.自己本地端設備環境:Ultra 7 155H + 32G RAM + Intel Arc Pro Graphics 128M  1. ollama 下載  ->下載後點兩下進行安裝 或是 以系統管理員身分開啟 PowerShell 進行安裝 安裝指令: irm http...