如何安裝 Ollama

Ollama 是什麼？

你需要什麼

如何取得並安裝 Ollama

1. 從 ollama.com 下載 Mac 或 Windows 版 Ollama 並執行安裝程式，Linux 則執行網站上的安裝腳本。
2. 打開終端機（或 Ollama 應用程式）並輸入 ollama run llama3.2（或庫頁面上的其他模型名稱）；模型會下載並顯示聊天提示。
3. 瀏覽 ollama.com 上的模型庫，尋找 Qwen、Gemma、Mistral、DeepSeek、Phi 及視覺模型，每個模型都有對應的執行指令。
4. 可選：安裝如 Open WebUI 的網頁介面，連接 Ollama 並在瀏覽器中提供類 ChatGPT 的頁面。

如何使用 Ollama

1. 在終端機或應用程式視窗中聊天；輸入 /bye 可退出終端機聊天。
2. 用 ollama list 列出已下載模型，ollama rm name 移除模型，ollama pull name 下載新模型。
3. 選擇符合您硬體的尺寸標籤，例如 qwen2.5:7b 或 qwen2.5:14b；較小標籤適合較小機器。
4. 從您自己的腳本使用 http://localhost:11434 的 API（與 OpenAI 相容），或將 Open WebUI、Continue 或 Zed 等應用程式指向它。
5. 用 Modelfile 設定系統提示和參數，然後執行 ollama create myname -f Modelfile 建立自訂模型。
6. 視覺模型（llava、llama3.2-vision、qwen2.5vl）可接受圖片：將檔案拖入聊天視窗或在終端機中傳入路徑。

技巧與常見問題

• 設定 OLLAMA_MODELS 可將模型資料夾移至更大容量的硬碟。
• 若 GPU 未被使用，請確認您的驅動程式為最新；ollama ps 可顯示模型是否在 GPU 或 CPU 上運行。
• 除非需要長文件，否則保持上下文視窗（num_ctx）適中；它對記憶體影響最大。
• Ollama 可透過 Modelfile 中的 FROM 行匯入您自行下載的 GGUF 檔案。

Ollama 指南

應用

如何安裝 Ollama 並在本地運行 AI（Windows、Mac、Linux）

你可以在自己的 PC 或 Mac 上免費離線運行類似 ChatGPT 的 AI，且不需支付每個 token 的費用。本指南說明如何安裝 Ollama，根據 8、16、24 或 32 GB 記憶體下載適合的模型，如何與它聊天，以及當它變慢或記憶體不足時該怎麼做。

Captain

2026年10月11日

應用

Ollama vs LM Studio (2026)：該用哪個本地 AI 應用程式，以及各自支援的頂級模型

Ollama 和 LM Studio 是兩種免費方式，讓你在自己的電腦上運行類似 ChatGPT 的 AI，兩者都能執行相同的開放模型。Ollama 是開源、輕量且設計為其他應用程式的引擎；LM Studio 是一款完整的桌面應用程式，內建模型瀏覽器，且在 Apple silicon Mac 上擁有更快的引擎。這次比較涵蓋速度、Mac、NVIDIA 和 AMD 支援、本地伺服器、程式碼代理和隱私，以及本週排名最高的開放模型中，兩者能在你的硬體上執行哪些。

Captain

2026年10月13日

錯誤與修復

什麼是 GGUF 檔案？量化模型解說（Q4、Q8、fp8、NF4）

模型頁面上有一半的檔案是以 .gguf 結尾，或帶有像 Q4_K_M、fp8 和 NF4 這樣的標籤，大家最常問的就是該下載哪一個。GGUF 是一種單檔案容器，用來存放量化權重，可以在 llama.cpp、Ollama、LM Studio 和 ComfyUI 上運行；後面的字母代表每個權重被壓縮成多少位元。這篇指南會說明量化保留和捨棄了什麼，解釋每個常見後綴，給出每十億參數的檔案大小估算規則，還會告訴你在 8、12、16 和 24 GB 記憶體環境下，聊天模型、Flux、Qwen Image 和 Wan 該選哪種量化。

Captain

2026年8月26日

模型

如何在2026年10月選擇AI模型：先看封閉源新聞，再看值得下載的開放權重

2026年10月「我該用哪個AI模型」的答案，分成兩部分不混淆：先是封閉、按代幣租用模型的新聞和價格（Claude Opus 5.5、GPT-6.1 Sol、Claude Sonnet 5.5、Grok 4.7、Gemini 3.8 Flash、GPT-6 Luna），再來是好東西：你可以下載並自己運行的開放權重模型（DeepSeek V4.1 Flash、GLM 5.3 Flash、Qwen3.8 Flash、MiMo-V2.6、Kimi K3、gpt-oss-120b、Gemma 4到Ollama），附上每百萬代幣價格、適合的工作類型，以及自9月以來的變化。

Lookout

2026年10月7日

模型

2026 年最便宜的 10 款 ChatGPT 替代方案：免費本地模型、免費方案和固定費率計劃

十種比 ChatGPT 訂閱更便宜的 AI 助理方案，依實際花費排名：用 Ollama 或 LM Studio 在自己電腦上運行開放模型，DeepSeek、Mistral、Google AI Studio 和 Qwen 的免費方案，Hugging Face Chat，OpenRouter 的免費路由，一個包含開放 LLM 的 Telegram 機器人，搭配固定價格的圖片和影片計劃，以及每種方案的優缺點。

Lookout

2026年2月4日

可在 Ollama 中執行的模型

連結

• Ollama: 官方網站
• Ollama: GitHub
• Ollama: 文件

其他本機應用