Mixtral 8x22B Instruct를 로컬에서 실행할 수 있나요?

Mistral | 65,536 토큰 컨텍스트 | 입력 $2.00/M, 출력 $6.00/M. Mistral의 공식 Mixtral 8x22B 명령 조정 버전입니다. 141B 중 390억 활성 파라미터를 사용하여 크기에 비해 뛰어난 비용 효율성을 제공합니다. 강점은 다음과 같습니다: 출시 발표에서 벤치마크 보기Opens in new tab. #moe

이 모델의 가이드

용도별 최고의 로컬 LLM (2026년 10월): 모든 작업에 맞는 최적의 오픈 모델

로컬 AI에 실제로 필요한 VRAM은 얼마나 될까?

GGUF 파일이란? 양자화 모델 설명 (Q4, Q8, fp8, NF4)

모든 가이드

캡틴의 노트

Captain 작성, 하우스 에디터

2026-10-13의 노트

Mixtral 8x22B Instruct는 Mistral의 지시 조정된 희소 전문가 혼합 모델로, 총 141B 매개변수 중 추론 시 39B 매개변수만 활성화됩니다. MoE 아키텍처 덕분에 대형 밀집 모델에 가까운 성능을 훨씬 적은 계산 비용으로 제공합니다. 강력한 일반 성능이 필요하고 자체 호스팅하거나 API로 실행할 수 있는 오픈 가중치를 원하는 개발자에게 적합합니다.

알려진 점

희소 MoE 설계: 총 141B 매개변수 중 39B만 활성화하여 추론 비용을 낮춤.
Hugging Face에서 오픈 가중치 제공, 자체 호스팅 가능.
토크나이저에 내장된 네이티브 함수 호출 지원.
mistral_inference와 Hugging Face 트랜스포머 파이프라인 모두와 호환됨.

주의할 점

총 141B 매개변수로 로컬 추론 시 VRAM 요구량이 매우 높아 양자화가 거의 필수적임.
정확한 결과를 위해 Mistral은 mistral_common 토크나이저 사용 권장; HF 토크나이저는 약간 차이가 있을 수 있음.
API 사용 시 출력 토큰당 $6.00으로 긴 생성 작업에서는 비용이 빠르게 증가함.

최적 용도

시도해볼 프롬프트

다단계 함수 계획

당신은 두 가지 도구를 가지고 있습니다: search_web(query)와 send_email(to, subject, body). 사용자가 이렇게 묻습니다: '현재 구리 선물 가격을 찾아서 procurement@example.com으로 요약을 이메일로 보내줘.' 도구 호출 순서와 인수들을 정확히 작성하고 각 단계 사이에 당신의 추론을 설명하세요.

가독성 향상을 위한 리팩터링

다음 Python 함수를 읽기 쉽고 유지보수하기 쉽게 리팩터링하세요. 타입 힌트를 추가하고, 불명확한 변수명을 바꾸며, 여러 작업을 한다면 분리하세요. 각 변경 사항과 그 이유를 설명하세요. def proc(d, x): r = [] for i in d: if i['v'] > x: r.append({'id': i['id'], 'val': i['v'] * 1.1}) return r

구조화된 데이터 추출

아래 텍스트에서 모든 회사명, 설립 연도, 본사 도시를 추출하세요. 결과는 각 객체가 'company', 'founded', 'city' 키를 가진 JSON 배열로 반환하세요. 언급되지 않은 필드는 null로 처리하세요. 'Stripe는 2010년에 설립되어 샌프란시스코에 본사를 두고 있습니다. Revolut는 런던에 본사를 두고 2015년에 시작했습니다. Adyen은 2006년부터 암스테르담에서 운영 중입니다.'

비교하기

Mistral Large 4
API 전용 모델
1,048,576 토큰 컨텍스트 · $0.68/M 입력, $2.09/M 출력
Mistral Large
API 전용 모델
128,000 토큰 컨텍스트 · $2.00/M 입력, $6.00/M 출력
Mistral Medium 3.5
API 전용 모델
262,144 토큰 컨텍스트 · $1.50/M 입력, $7.50/M 출력
Mistral Medium 3
API 전용 모델
131,072 토큰 컨텍스트 · $0.40/M 입력, $2.00/M 출력

mistralai의 더 많은 텍스트 모델

사람들이 묻는 질문

Mixtral 8x22B Instruct를 로컬에서 실행할 수 있나요?: 네, 가중치는 오픈되어 있으며 Hugging Face의 mistralai/Mixtral-8x22B-Instruct-v0.1에서 호스팅됩니다. 전체 모델이 141B 매개변수이므로 소비자 또는 프로슈머 하드웨어에 맞추려면 거의 확실히 양자화가 필요합니다.
비용과 컨텍스트 윈도우 크기는 어떻게 되나요?: API 기준 입력 토큰당 $2.00, 출력 토큰당 $6.00이며, 컨텍스트 윈도우는 65,536 토큰입니다.
8x22B는 Mixtral 8x7B와 어떻게 다른가요?: 8x22B는 전문가 수와 크기 모두를 확장하여 한 번의 순전파에 39B 매개변수를 활성화하는 반면 8x7B는 약 12B를 활성화합니다. 이로 인해 성능이 향상되지만 VRAM 요구량과 API 비용이 약간 더 높아집니다.

캡틴의 평가
토큰당 비용 효율이 뛰어난 유능한 오픈 가중치 워크호스지만, 로컬 배포 시에는 하드웨어 계획이 매우 중요합니다.

Hugging Face의 모델 카드

캡틴은 모델의 설명과 모델 카드에서 이 노트를 작성합니다. 가격과 컨텍스트 크기는 작성 시점의 제공자 기준이며 변경될 수 있습니다.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

이 점수가 어떻게 계산되는지

이 모델은 아직 어떤 출처에서도 인기 데이터가 없어서 7,000° 아래에 임시 점수를 가지고 있어. 이 점수는 목록을 완성하는 데 쓰여. 데이터가 있는 모델보다 절대 순위가 높지 않아. 출처에서 보고가 들어오는 즉시 여기서 세부 내역이 나타나.

용어집: 여기서 쓰는 말들

히트 점수: 모델이 지금 얼마나 쓰이고 원하는지 한 숫자로 나타낸 거야, 0°부터 9,999°까지. 이 사이트에서 가장 인기 있는 목록은 모두 이 점수로 정렬돼.
기본 점수: 실제 데이터가 있는 모든 모델이 시작하는 7,000°야. 점수는 0°부터 9,999°까지인데, 기본 점수 아래는 데이터 없는 모델(대체 모델)용으로 남겨둬서 데이터 있는 모델이 항상 위에 오도록 해. 기본 점수는 모두 같고 아무것도 결정하지 않아; 그 위 점수가 실제 측정치야.
다운로드 동등치: 점수가 다운로드로 취급하는 모든 걸 합친 거야: 실제 다운로드, 토렌트 시더 1,000개씩, AI Horde 이미지와 생성 사이트 실행 1개씩.
로그 스케일: 1씩이 아니라 10씩 세는 거야: 1,000에서 10,000 다운로드가 늘면 10,000에서 100,000 늘어난 것과 같은 점수가 더해져. 큰 모델이 다 차지하는 걸 막아줘.
좋아요: 모든 출처의 좋아요와 엄지척, 로그 스케일에서 다운로드 절반 가치야.
채택률: 두 번 측정한 차이로 계산한 지금 하루 다운로드 수야. 다운로드 항목 무게의 4분의 1이야.
측정 및 추정: 측정은 두 번의 소스 읽기가 존재하고 그 차이가 실제라는 뜻이야. 추정은 오늘의 총합만 알고 과거는 모델의 전체 기간에 나눠서 보여주는 거야; 사이트에서 어떤 걸 보여주는지 알려줘.
시더: 토렌트를 통해 다른 사람이 다운로드할 수 있도록 가중치 파일을 온라인에 보관하는 사람이나 호스팅 미러를 말해. 각각 1,000번 다운로드로 계산돼.
AI 호드: 기부받은 컴퓨터에서 무료로 이미지를 생성하는 자원봉사 네트워크야. 모델로 만든 이미지 수가 공개되고, 각각이 한 번의 다운로드로 계산돼.
생성 사이트: PixAI, SeaArt, Yodayo 같은 모델 복사본을 직접 호스팅하고 사람들이 생성할 수 있게 하는 사이트들이야. 이들의 다운로드는 Civitai와 같고, 생성 한 번이 한 번의 다운로드로 계산돼.
OpenRouter 토큰: Claude나 GPT 같은 API를 통해 제공되는 텍스트 모델은 다운로드할 가중치가 없으므로, 지난 30일간 OpenRouter를 통해 읽고 쓴 텍스트 조각인 토큰 수로 사용량을 측정합니다. 10,000,000 토큰마다 다운로드 1회로 계산합니다. 출처: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
전체 모델 (체크포인트): 가중치 자체, 혼자서 생성하는 파일이야. 애드온이 이걸 기반으로 하기 때문에 보너스 점수를 받아.
LoRA와 임베딩: 다른 사람의 가중치를 특정 스타일, 캐릭터, 개념 쪽으로 조정하는 작은 추가 파일이야. 혼자 실행할 수 없어.
패밀리와 가중치: 모델이 기반으로 하는 것, 예를 들어 SD 1.5, SDXL, Flux, Wan 같은 거야. 모든 모델은 패밀리 가중치의 출시일을 물려받아.
연령: 패밀리 가중치가 나온 지 얼마나 됐는지에 따라 점수를 깎아: 1년에 150°, 최대 750°까지. 오래된 다운로드는 리스트 상단 고정을 풀어 쌓이도록 해.
패밀리 부스트: 이 사이트가 지금 밀고 있는 패밀리의 LoRA에 주는 작고 제한된 점수 조정으로, 항상 세부 내역에 표시돼.
대체 점수: 아직 소스 보고가 없는 모델에 안정적으로 주는 최저 점수로, 리스트가 완전하게 유지되도록 해. 데이터가 있는 모델보다 절대 높게 평가되지 않아.
신규! (유예 기간): 7일 미만의 신규 모델은 점수 대신 '신규!' 표시가 나오며 순위에 포함되지 않습니다. 점수는 첫날부터 계산되지만, 하루 된 모델은 매우 빠르게 성장하므로 유예 기간 없이는 항상 어제 나온 모델이 이번 주 #1이 되어버립니다.
추세: 한 기간 동안 모델의 성장 속도가 같은 기간의 일반 모델 성장 속도와 비교해서 어떤지 보여줘. 일반보다 빠르면 상승, 느리면 하락으로 봐.
일반 모델: 카탈로그의 중간값: 수치가 있는 모델 중 절반은 기간 동안 더 빨리 성장했고, 절반은 더 느리게 성장했어.

유사한 모델

이미지·영상·텍스트 생성을 위한 AI 모델

Mixtral 8x22B Instruct은(는) Text / LLM 패밀리용 텍스트 모델으로, 오픈 소스 AI 이미지·영상·텍스트 모델의 읽기 전용 카탈로그인 ModelTrends.ai에 등록되어 있습니다. 다른 Text / LLM 모델과 비교하고 열기 점수로 트렌드를 확인해 보세요.

모델 패밀리별로 보기