Paano i-install ang Ollama

Paborito ng mga developer para sa lokal na LLMs: isang utos lang para mag-download at magpatakbo ng Llama, Qwen, Gemma, DeepSeek at iba pa, na may built-in na API.

Mga text model (LLM)

Windows

Mac

Linux

Lisensya: MIT

Opisyal na site

GitHub

Dokumentasyon

Ano ang Ollama?

Ang Ollama ay isang libreng open source na tool na nagpapatakbo ng malalaking language models nang lokal gamit ang isang utos lang, halimbawa ollama run llama3. Pinamamahalaan nito ang pag-download ng modelo, GPU acceleration at isang lokal na REST API na kayang gamitin ng karamihan ng AI applications. Nagsimula ito bilang command line tool at ngayon ay may simpleng desktop app na may chat window sa Mac at Windows, at gumagana rin sa maraming third-party interfaces tulad ng Open WebUI.

Para ang Ollama sa mga developer, tinkerer at sinumang nais ng lokal na modelo bilang backend para sa ibang software. Kung gusto mo ng kumpletong chat interface agad, mas komportable ang LM Studio, pero mas magaang at madaling i-script ang Ollama.

Ano ang kailangan mo

macOS 12 o mas bago (inirerekomenda ang Apple Silicon), Windows 10 o 11, o Linux. 8 GB RAM para sa 7B models, 16 GB para sa 13B, 32 GB para sa 33B; mas mabilis ang pag-generate gamit ang NVIDIA o AMD GPU. Ang mga modelo ay kumukuha ng 2 hanggang 40 GB bawat isa.

Paano kunin at i-install ang Ollama

I-download ang Ollama mula sa ollama.com para sa Mac o Windows at patakbuhin ang installer, o sa Linux patakbuhin ang install script mula sa site.
Buksan ang terminal (o ang Ollama app) at i-type ang ollama run llama3.2 (o ibang pangalan ng modelo mula sa library page); magda-download ang modelo at lalabas ang chat prompt.
Mag-browse sa model library sa ollama.com para sa Qwen, Gemma, Mistral, DeepSeek, Phi at mga vision models, bawat isa ay may eksaktong utos para patakbuhin ito.
Opsyonal: mag-install ng web interface tulad ng Open WebUI, na kumokonekta sa Ollama at nagbibigay ng ChatGPT-style na pahina sa iyong browser.

Mag-download lamang mula sa mga opisyal na link sa pahinang ito. Ang mga installer mula sa ibang lugar ay maaaring luma na o pinakialaman. Walang hino-host na file ang ModelTrends.ai.

Paano gamitin ang Ollama

Mag-chat sa terminal o sa app window; i-type ang /bye para lumabas sa terminal chat.
Ilista ang mga na-download na modelo gamit ang ollama list, tanggalin ang isa gamit ang ollama rm name, at mag-pull ng bago gamit ang ollama pull name.
Pumili ng size tag na angkop sa iyong hardware, halimbawa qwen2.5:7b o qwen2.5:14b; mas maliit na tag ay tumatakbo sa mas maliit na makina.
Gamitin ang API sa http://localhost:11434 mula sa sarili mong mga script (OpenAI compatible ito), o ituro ang mga app tulad ng Open WebUI, Continue o Zed dito.
Gumawa ng custom na modelo gamit ang Modelfile para itakda ang system prompt at mga parameter, pagkatapos ay ollama create myname -f Modelfile.
Tumatanggap ang mga vision models (llava, llama3.2-vision, qwen2.5vl) ng mga larawan: i-drag ang file sa chat o ipasa ang path sa terminal.

Mga tip at karaniwang problema

Itakda ang OLLAMA_MODELS para ilipat ang folder ng modelo sa mas malaking drive.
Kung hindi nagagamit ang GPU, siguraduhing updated ang driver mo; ipinapakita ng ollama ps kung tumatakbo ang modelo sa GPU o CPU.
Panatilihing katamtaman ang context window (num_ctx) maliban kung kailangan mo ng mahahabang dokumento; ito ang may pinakamalaking epekto sa memorya.
Kayang mag-import ng Ollama ng GGUF files na dina-download mo mismo gamit ang Modelfile na may FROM line na tumutukoy sa file.

Mga gabay para sa Ollama

Mga app

Paano Mag-install ng Ollama at Magpatakbo ng Lokal na AI (Windows, Mac, Linux)

Pwede kang magpatakbo ng ChatGPT-style na AI sa sarili mong PC o Mac nang libre, offline, at walang bayad kada token. Itong gabay ay nagpapakita kung paano mag-install ng Ollama, kung aling modelo ang ida-download para sa 8, 16, 24 o 32 GB ng memorya, paano makipag-chat dito, at ano ang gagawin kapag mabagal ito o nauubusan ng memorya.

Captain

Okt 11, 2026

Mga app

Ollama vs LM Studio (2026): alin ang local AI app na gagamitin, at alin ang mga top models na pinapatakbo ng bawat isa

Ang Ollama at LM Studio ang dalawang libreng paraan para magpatakbo ng ChatGPT-style AI sa sarili mong computer, at pareho silang nagpapatakbo ng parehong open models. Ang Ollama ay open source, magaan, at ginawa para maging engine sa likod ng ibang apps; ang LM Studio ay isang polished desktop app na may model browser at mas mabilis na engine sa Apple silicon Macs. Saklaw ng paghahambing na ito ang bilis, suporta sa Mac, NVIDIA at AMD, ang local server, coding agents at privacy, at kung alin sa mga top-ranked open models ngayong linggo ang kayang patakbuhin ng bawat isa sa iyong hardware.

Captain

Okt 13, 2026

Mga error at solusyon

Ano ang GGUF file? Ipinaliwanag ang mga quantized na modelo (Q4, Q8, fp8, NF4)

Kalahati ng mga file sa isang pahina ng modelo ay nagtatapos sa .gguf o may mga tag tulad ng Q4_K_M, fp8 at NF4, at ang tanong lang ng lahat ay alin ang ida-download. Ang GGUF ay isang single-file container para sa quantized weights na tumatakbo sa llama.cpp, Ollama, LM Studio at ComfyUI; ang mga letra pagkatapos nito ay nagsasabi kung ilang bits ang ginamit sa bawat weight. Ipinaliwanag ng gabay na ito kung ano ang pinananatili at tinatanggal ng quantization, binibigyang-kahulugan ang bawat karaniwang suffix, nagbibigay ng rule of thumb para sa laki kada bilyong parameters, at sinasabi kung aling quant ang pipiliin para sa chat models, Flux, Qwen Image at Wan sa 8, 12, 16 at 24 GB.

Captain

Ago 26, 2026

Mga model

Paano pumili ng AI model sa Oktubre 2026: ang balita sa closed source, tapos ang open weights na sulit i-download

Ang sagot sa Oktubre 2026 sa "alin ang AI model na dapat kong gamitin", sa dalawang bahagi na hindi pinaghalo: una ang balita at presyo ng closed, rent-by-the-token models (Claude Opus 5.5, GPT-6.1 Sol, Claude Sonnet 5.5, Grok 4.7, Gemini 3.8 Flash, GPT-6 Luna), tapos ang magaganda: ang open-weights models na pwede mong i-download at patakbuhin sa sarili mo (DeepSeek V4.1 Flash, GLM 5.3 Flash, Qwen3.8 Flash, MiMo-V2.6, Kimi K3, gpt-oss-120b, Gemma 4 sa Ollama), kasama ang presyo kada milyon tokens, para saan ang bawat isa at ano ang nagbago mula Setyembre.

Lookout

Okt 7, 2026

Mga model

Ang 10 pinakamurang alternatibo sa ChatGPT sa 2026: libreng lokal na mga modelo, libreng tier at flat-rate na mga plano

Sampung paraan para magkaroon ng mahusay na AI assistant nang mas mura kaysa sa subscription ng ChatGPT, inayos ayon sa totoong gastos mo: mga open model sa sarili mong PC gamit ang Ollama o LM Studio, libreng tier ng DeepSeek, Mistral, Google AI Studio at Qwen, Hugging Face Chat, libreng ruta ng OpenRouter, isang Telegram bot na may kasamang open LLMs sa isang flat na plano para sa imahe at video, at kung ano ang mga kalakasan at kahinaan ng bawat isa.

Lookout

Peb 4, 2026

Mga model na puwedeng patakbuhin sa Ollama

Pinapatakbo ng Ollama ang mga open text models sa ilalim ng Text / LLM sa katalogong ito na nailathala sa kanyang library o available bilang GGUF files, kabilang ang Llama, Qwen, Gemma, Mistral, DeepSeek at karamihan pa.

Mga Text / LLM model

Mga link

Ang mga link na ito ay papunta sa sariling mga site ng mga gumawa. Hindi kaanib ng ModelTrends.ai ang mga ito at wala itong hino-host na software.

Iba pang lokal na app

Paano i-install ang ComfyUI

Ang node-based na powerhouse para sa Stable Diffusion, Flux, Wan video at halos lahat ng bagong open source na modelo. Libre, open source, para sa Windows, Mac at Linux.