Ollama 설치 방법

Ollama란?

필요한 것

Ollama 받기와 설치

1. Mac 또는 Windows용 Ollama는 ollama.com에서 다운로드하여 설치 프로그램을 실행하세요. Linux에서는 사이트의 설치 스크립트를 실행하세요.
2. 터미널(또는 Ollama 앱)을 열고 ollama run llama3.2(또는 라이브러리 페이지의 다른 모델 이름)를 입력하세요; 모델이 다운로드되고 채팅 프롬프트가 나타납니다.
3. ollama.com의 모델 라이브러리에서 Qwen, Gemma, Mistral, DeepSeek, Phi 및 비전 모델을 찾아보세요. 각 모델 실행 명령어가 제공됩니다.
4. 선택 사항: Open WebUI 같은 웹 인터페이스를 설치하여 Ollama에 연결하고 브라우저에서 ChatGPT 스타일 페이지를 사용할 수 있습니다.

Ollama 사용법

1. 터미널이나 앱 창에서 채팅하세요; 터미널 채팅을 종료하려면 /bye를 입력하세요.
2. ollama list로 다운로드된 모델을 나열하고, ollama rm 이름으로 삭제하며, ollama pull 이름으로 새 모델을 가져오세요.
3. 하드웨어에 맞는 크기 태그를 선택하세요. 예: qwen2.5:7b 또는 qwen2.5:14b; 작은 태그는 작은 기기에서 실행됩니다.
4. http://localhost:11434에서 API를 사용하세요(오픈AI 호환). Open WebUI, Continue, Zed 같은 앱을 연결할 수도 있습니다.
5. Modelfile로 시스템 프롬프트와 매개변수를 설정한 후 ollama create myname -f Modelfile로 맞춤 모델을 만드세요.
6. 비전 모델(llava, llama3.2-vision, qwen2.5vl)은 이미지를 지원합니다: 채팅에 파일을 끌어다 놓거나 터미널에서 경로를 전달하세요.

팁과 흔한 문제

• OLLAMA_MODELS를 설정하여 모델 폴더를 더 큰 드라이브로 이동하세요.
• GPU가 사용되지 않는다면 드라이버가 최신인지 확인하세요; ollama ps로 모델이 GPU 또는 CPU에서 실행 중인지 확인할 수 있습니다.
• 긴 문서가 필요하지 않으면 컨텍스트 창(num_ctx)을 적당히 유지하세요; 메모리에 가장 큰 영향을 줍니다.
• Ollama는 Modelfile의 FROM 줄로 직접 다운로드한 GGUF 파일을 가져올 수 있습니다.

Ollama 가이드

앱

Ollama 설치 및 로컬 AI 실행 방법 (Windows, Mac, Linux)

ChatGPT 스타일 AI를 PC나 Mac에서 무료로, 오프라인으로, 토큰당 요금 없이 실행할 수 있어요. 이 가이드는 Ollama 설치 방법, 8, 16, 24, 32GB 메모리에 맞는 모델 다운로드, 대화하는 법, 느리거나 메모리가 부족할 때 대처법을 알려줍니다.

Captain

2026년 10월 11일

앱

Ollama vs LM Studio (2026): 어떤 로컬 AI 앱을 사용할까, 그리고 각각 어떤 최고 모델을 실행할까

Ollama와 LM Studio는 ChatGPT 스타일 AI를 내 컴퓨터에서 무료로 실행할 수 있는 두 가지 방법이며, 둘 다 같은 오픈 모델을 실행한다. Ollama는 오픈 소스이고 가볍고 다른 앱의 엔진으로 설계되었으며, LM Studio는 모델 브라우저가 포함된 완성도 높은 데스크톱 앱으로 Apple 실리콘 Mac에서 더 빠른 엔진을 제공한다. 이 비교는 속도, Mac, NVIDIA 및 AMD 지원, 로컬 서버, 코딩 에이전트와 프라이버시, 그리고 이번 주 최고 순위의 오픈 모델 중 어떤 것을 각 앱이 하드웨어에서 실행할 수 있는지 다룬다.

Captain

2026년 10월 13일

오류 및 해결

GGUF 파일이란? 양자화 모델 설명 (Q4, Q8, fp8, NF4)

모델 페이지에 있는 파일 절반은 .gguf로 끝나거나 Q4_K_M, fp8, NF4 같은 태그가 붙어 있어요. 사람들이 궁금한 건 어떤 걸 다운로드해야 하냐는 거죠. GGUF는 llama.cpp, Ollama, LM Studio, ComfyUI에서 작동하는 양자화된 가중치를 담는 단일 파일 컨테이너예요. 뒤에 붙은 글자는 각 가중치가 몇 비트로 압축됐는지 알려줍니다. 이 가이드는 양자화가 무엇을 유지하고 버리는지, 흔한 접미사를 해석하고, 파라미터 10억 개당 크기 규칙을 알려주며, 채팅 모델, Flux, Qwen Image, Wan을 8, 12, 16, 24GB 환경에서 어떤 양자화를 선택해야 하는지 설명해요.

Captain

2026년 8월 26일

모델

2026년 10월 AI 모델 선택법: 폐쇄형 소스 소식과 다운로드할 가치가 있는 오픈 웨이트

2026년 10월 "어떤 AI 모델을 써야 할까"에 대한 답변을 두 부분으로 나눴어. 첫 번째는 폐쇄형, 토큰 단위로 임대하는 모델들(Claude Opus 5.5, GPT-6.1 Sol, Claude Sonnet 5.5, Grok 4.7, Gemini 3.8 Flash, GPT-6 Luna)의 최신 소식과 가격, 두 번째는 직접 다운로드해 쓸 수 있는 오픈 웨이트 모델들(DeepSeek V4.1 Flash, GLM 5.3 Flash, Qwen3.8 Flash, MiMo-V2.6, Kimi K3, gpt-oss-120b, Ollama의 Gemma 4 등)과 토큰당 가격, 각 모델이 적합한 작업, 9월 이후 바뀐 점을 알려줘.

Lookout

2026년 10월 7일

모델

2026년 가장 저렴한 ChatGPT 대안 10가지: 무료 로컬 모델, 무료 이용권, 정액제 플랜

ChatGPT 구독료보다 저렴하게 쓸 수 있는 유능한 AI 비서 10가지 방법을 실제 비용 기준으로 정리했어. Ollama나 LM Studio로 내 PC에서 직접 쓰는 오픈 모델, DeepSeek, Mistral, Google AI Studio, Qwen의 무료 이용권, Hugging Face Chat, OpenRouter의 무료 경로, 정액 이미지·비디오 플랜에 포함된 텔레그램 봇과 오픈 LLM들, 그리고 각각의 장단점을 알려줄게.

Lookout

2026년 2월 4일

Ollama에서 실행할 수 있는 모델

링크

• Ollama: 공식 사이트
• Ollama: GitHub
• Ollama: 문서

다른 로컬 앱