如何安装 Ollama

Ollama 是什么？

你需要什么

如何获取并安装 Ollama

1. 从 ollama.com 下载Mac或Windows版Ollama并运行安装程序，Linux用户请运行网站上的安装脚本。
2. 打开终端（或Ollama应用），输入 ollama run llama3.2（或库页面上的其他模型名）；模型将下载并显示聊天提示。
3. 访问 ollama.com 浏览Qwen、Gemma、Mistral、DeepSeek、Phi及视觉模型库，每个模型都有对应的运行命令。
4. 可选：安装如Open WebUI的网页界面，连接Ollama，在浏览器中获得类似ChatGPT的页面。

如何使用 Ollama

1. 在终端或应用窗口聊天；输入 /bye 退出终端聊天。
2. 用 ollama list 列出已下载模型，使用 ollama rm name 删除，使用 ollama pull name 下载新模型。
3. 选择适合硬件的尺寸标签，例如 qwen2.5:7b 或 qwen2.5:14b；较小标签适合较小设备。
4. 从您自己的脚本通过 http://localhost:11434 使用API（兼容OpenAI），或将Open WebUI、Continue、Zed等应用指向该地址。
5. 用 Modelfile 创建自定义模型，设置系统提示和参数，然后执行 ollama create myname -f Modelfile。
6. 视觉模型（llava、llama3.2-vision、qwen2.5vl）支持图像：将文件拖入聊天窗口或在终端传入路径。

技巧与常见问题

• 设置 OLLAMA_MODELS 将模型文件夹移动到更大容量的磁盘。
• 如果GPU未被使用，请检查驱动是否最新；ollama ps 显示模型运行在GPU还是CPU上。
• 除非需要处理长文档，否则保持上下文窗口（num_ctx）适中；它对内存影响最大。
• Ollama可通过Modelfile中指向文件的FROM行导入您自行下载的GGUF文件。

Ollama 指南

应用

如何安装 Ollama 并运行本地 AI（Windows、Mac、Linux）

你可以在自己的 PC 或 Mac 上免费离线运行类似 ChatGPT 的 AI，没有按令牌收费。本指南介绍如何安装 Ollama，针对 8、16、24 或 32 GB 内存下载哪个模型，如何与它聊天，以及当它运行缓慢或内存不足时该怎么办。

Captain

2026年10月11日

应用

Ollama 与 LM Studio（2026）：选择哪个本地 AI 应用，以及各自支持的顶级模型

Ollama 和 LM Studio 是两种在你自己的电脑上运行 ChatGPT 风格 AI 的免费方式，它们都支持相同的开源模型。Ollama 是开源的，轻量级，设计为其他应用的引擎；LM Studio 是一个完善的桌面应用，带有模型浏览器，并且在苹果硅芯片 Mac 上拥有更快的引擎。本文比较了速度、Mac、NVIDIA 和 AMD 支持、本地服务器、编码代理和隐私，以及本周排名最高的开源模型中各自能在你的硬件上运行的模型。

Captain

2026年10月13日

报错与修复

什么是 GGUF 文件？量化模型详解（Q4、Q8、fp8、NF4）

模型页面上一半的文件以 .gguf 结尾，或者带有 Q4_K_M、fp8 和 NF4 这样的标签，大家最关心的就是下载哪个。GGUF 是一个单文件容器，装的是量化权重，能在 llama.cpp、Ollama、LM Studio 和 ComfyUI 上运行；后面的字母表示每个权重被压缩到多少位。这篇指南讲了量化保留和丢弃了什么，解读了所有常见后缀，给出了每十亿参数的大小经验法则，还告诉你在 8、12、16 和 24 GB 显存上，聊天模型、Flux、Qwen Image 和 Wan 应该选哪个量化版本。

Captain

2026年8月26日

模型

2026年10月如何选择AI模型：先看闭源新闻，再看值得下载的开源权重

2026年10月“我该用哪个AI模型”的答案，分两部分且不混淆：先是闭源、按token计费的租用模型新闻和价格（Claude Opus 5.5、GPT-6.1 Sol、Claude Sonnet 5.5、Grok 4.7、Gemini 3.8 Flash、GPT-6 Luna），再是好东西：你可以下载并自己运行的开源权重模型（DeepSeek V4.1 Flash、GLM 5.3 Flash、Qwen3.8 Flash、MiMo-V2.6、Kimi K3、gpt-oss-120b、通过Ollama的Gemma 4），包括每百万token的价格、适合的任务和自9月以来的变化。

Lookout

2026年10月7日

模型

2026年最便宜的10款ChatGPT替代品：免费本地模型、免费套餐和固定费率计划

十种花费低于ChatGPT订阅费的高效AI助手获取方式，按实际支付费用排序：在你自己的电脑上用Ollama或LM Studio运行开源模型，DeepSeek、Mistral、Google AI Studio和Qwen的免费套餐，Hugging Face Chat，OpenRouter的免费接口，一个包含开放大模型的Telegram机器人，配合固定价格的图像和视频计划，以及它们各自的优缺点。

Lookout

2026年2月4日

可在 Ollama 中运行的模型

链接

• Ollama: 官方网站
• Ollama: GitHub
• Ollama: 文档

其他本地应用