Pwede ko bang patakbuhin ang Mixtral 8x22B Instruct nang lokal?

Oo, bukas ang weights at naka-host sa mistralai/Mixtral-8x22B-Instruct-v0.1 sa Hugging Face. Tandaan na ang buong model ay 141B parameters, kaya halos kailangan mo ng quantization para magkasya ito sa consumer o prosumer hardware.

Magkano ang presyo at gaano kahaba ang context window?

Sa API, ang presyo ay $2.00 kada milyon input tokens at $6.00 kada milyon output tokens, na may 65,536-token context window.

Paano naiiba ang 8x22B sa Mixtral 8x7B?

Pinalaki ng 8x22B ang bilang ng mga eksperto at ang kanilang laki, na nag-a-activate ng 39B parameters kada forward pass kumpara sa humigit-kumulang 12B sa 8x7B, na nagreresulta sa mas malakas na performance kapalit ng mas mataas na VRAM at bahagyang mas mataas na presyo sa API.

Mixtral 8x22B Instruct

4658°

#llm #mistralai #pag-coding #mga ahente #lokal #chat

Patakbuhin ang modelong ito

Alok / Ads

OpenRouter Terminal / API

Bayad kada token

Makipag-chat sa modelong ito sa browser o tawagan ito mula sa iyong code gamit ang isang API key.

Mistral | 65,536 token context | $2.00/M input, $6.00/M output. Ang opisyal na instruct fine-tuned na bersyon ng Mixtral 8x22B mula sa Mistral. Gumagamit ito ng 39B active parameters mula sa 141B, na nag-aalok ng walang kapantay na cost efficiency para sa laki nito. Kabilang sa mga lakas nito ang: Tingnan ang mga benchmark sa launch announcement ditoOpens in new tab. #moe

Mga gabay para sa model na ito

Pinakamahusay na lokal na LLM ayon sa gamit (Oktubre 2026): ang tamang open model para sa bawat trabaho

Gaano ba talaga kalaki ang VRAM na kailangan ko para sa local AI?

Ano ang GGUF file? Ipinaliwanag ang mga quantized na modelo (Q4, Q8, fp8, NF4)

Lahat ng gabay

Mga tala ng Kapitan

Isinulat ni Captain, ang editor ng bahay

Mga tala mula sa 2026-10-13

Ang Mixtral 8x22B Instruct ay instruction-tuned sparse mixture-of-experts model ng Mistral, na nag-a-activate ng 39B parameters sa inference mula sa kabuuang 141B. Ang MoE architecture ay nangangahulugang nakakakuha ka ng kakayahan na malapit sa isang malaking dense model sa mas maliit na compute cost. Angkop ito para sa mga developer na nangangailangan ng malakas na pangkalahatang performance at nais ng open weights na maaari nilang i-self-host o patakbuhin sa API.

Kilalang-kilala sa

Sparse MoE design: 39B active parameters mula sa 141B total para mababa ang inference cost.
Open weights na available sa Hugging Face para sa self-hosting.
Native na suporta sa function-calling na built-in sa tokenizer.
Compatible sa mistral_inference at Hugging Face transformers pipelines.

Mag-ingat sa

141B total parameters ay nangangailangan ng seryosong VRAM para sa lokal na inference; halos kailangan ang quantization.
Inirerekomenda ng Mistral ang mistral_common tokenizer para sa eksaktong resulta; maaaring bahagyang magkaiba ang HF tokenizer.
Sa $6.00/M output tokens sa API, mabilis tumaas ang gastos sa mahahabang generative tasks.

Pinakamainam para sa

Pag-coding

Mga ahente at paggamit ng tool

Tumakbo nang lokal

Chat at mga katulong

Mga prompt na subukan

Plano ng multi-step na function

Mayroon kang dalawang tool: search_web(query) at send_email(to, subject, body). May user na nagtanong: 'Hanapin ang kasalukuyang presyo ng copper futures at i-email ang buod sa procurement@example.com.' Isulat ang eksaktong sunod-sunod ng mga tawag sa tool na gagawin mo, kasama ang mga argumento, at ipaliwanag ang iyong pag-iisip sa bawat hakbang.

I-refactor para sa readability

I-refactor ang sumusunod na Python function para mas madaling basahin at panatilihin. Magdagdag ng type hints, palitan ang mga hindi malinaw na variable names, at hatiin ito kung gumagawa ito ng higit sa isang bagay. Ipaliwanag ang bawat pagbabago at bakit. def proc(d, x): r = [] for i in d: if i['v'] > x: r.append({'id': i['id'], 'val': i['v'] * 1.1}) return r

Structured data extraction

I-extract ang bawat pangalan ng kumpanya, taon ng pagkakatatag, at lungsod ng headquarters mula sa teksto sa ibaba. Ibalik ang resulta bilang JSON array kung saan ang bawat object ay may keys na 'company', 'founded', at 'city'. Kung walang binanggit na field, gamitin ang null. 'Stripe was founded in 2010 and is based in San Francisco. Revolut, headquartered in London, launched in 2015. Adyen has operated from Amsterdam since 2006.'

Ihambing sa

Mistral Large 4
Modelong API lang
1,048,576 token na konteksto · $0.68/M input, $2.09/M output
Mistral Large
Modelong API lang
128,000 token na konteksto · $2.00/M input, $6.00/M output
Mistral Medium 3.5
Modelong API lang
262,144 token na konteksto · $1.50/M input, $7.50/M output
Mistral Medium 3
Modelong API lang
131,072 token na konteksto · $0.40/M input, $2.00/M output

Higit pang mga text model mula sa mistralai

Mga tanong na madalas itanong

Pwede ko bang patakbuhin ang Mixtral 8x22B Instruct nang lokal?: Oo, bukas ang weights at naka-host sa mistralai/Mixtral-8x22B-Instruct-v0.1 sa Hugging Face. Tandaan na ang buong model ay 141B parameters, kaya halos kailangan mo ng quantization para magkasya ito sa consumer o prosumer hardware.
Magkano ang presyo at gaano kahaba ang context window?: Sa API, ang presyo ay $2.00 kada milyon input tokens at $6.00 kada milyon output tokens, na may 65,536-token context window.
Paano naiiba ang 8x22B sa Mixtral 8x7B?: Pinalaki ng 8x22B ang bilang ng mga eksperto at ang kanilang laki, na nag-a-activate ng 39B parameters kada forward pass kumpara sa humigit-kumulang 12B sa 8x7B, na nagreresulta sa mas malakas na performance kapalit ng mas mataas na VRAM at bahagyang mas mataas na presyo sa API.

Hatol ng Kapitan
Isang mahusay na open-weights workhorse na may matalinong cost-per-token na kwento, pero nangangailangan ng seryosong hardware planning para sa lokal na deployment.

Model card sa Hugging Face

Isinusulat ng Kapitan ang mga tala na ito mula sa sariling paglalarawan at model card ng modelo. Ang mga presyo at laki ng konteksto ay mula sa provider sa oras ng pagsulat at maaaring magbago.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Paano nagkakalkula ang score na ito

Walang datos ng kasikatan mula sa kahit anong pinanggalingan ang modelong ito, kaya may stand-in na numero ito sa ibaba ng 7,000° para kumpleto ang mga listahan. Hindi ito kailanman mauuna sa isang modelong may datos. Lalabas dito ang breakdown kapag may nag-ulat na pinanggalingan.

Talahulugan: ang mga terminong ginagamit dito

Heat score: Isang numero kung gaano kadalas gamitin at gusto ang isang modelo ngayon, mula 0° hanggang 9,999°. Bawat listahan sa site na ito na nagsasabing pinakamainit ay nakaayos base dito at wala nang iba pa.
Floor: Ang 7,000° na panimulang puntos ng bawat modelong may totoong datos. Ang sukatan ay mula 0° hanggang 9,999°; ang bahagi sa ilalim ng floor ay para sa mga stand-in (mga modelong walang datos), para laging mas mataas ang ranggo ng may datos kaysa wala. Pareho ang floor para sa lahat at hindi ito nagpapasya; ang mga degree sa itaas nito ang totoong sukat.
Katumbas ng download: Lahat ng tinatrato ng score bilang download, pinagsama-sama: mga download mismo, bawat torrent seeder bilang 1,000, bawat AI Horde na larawan at bawat takbo sa isang generation site bilang isa.
Log scale: Bilang ng sampu, hindi isa-isa: ang pagtaas mula 1,000 hanggang 10,000 downloads ay nagdadagdag ng parehong degree tulad ng mula 10,000 hanggang 100,000. Pinipigilan nito ang mga higante na mauna sa lahat.
Likes: Thumbs up at likes mula sa lahat ng pinanggalingan, na katumbas ng kalahati ng download sa log scale.
Bilis ng pagtanggap: Ilang downloads kada araw ang nakukuha ng modelo ngayon, mula sa pagkakaiba ng dalawang readings ng isang pinanggalingan. Isang-kapat ng bigat ng term na download.
Nasukat at tinantya: Ang nasukat ay ibig sabihin may dalawang pagbabasa mula sa isang pinagmulan at tunay ang pagkakaiba. Ang tinantya naman ay alam lang ang kabuuan ngayon at hinahati ang nakaraan sa buong buhay ng modelo; sinasabi ng site kung alin ang ipinapakita.
Seeder: Isang tao na nag-iimbak ng kopya ng weights online para ma-download ng iba gamit ang torrent, o isang naka-host na mirror na gumagawa rin nito. Bawat isa ay katumbas ng 1,000 downloads.
AI Horde: Isang volunteer network na gumagawa ng mga larawan nang libre gamit ang mga donadong computer. Pampubliko kung ilang larawan ang nagawa gamit ang isang modelo, at bawat isa ay katumbas ng isang download.
Mga generation site: Mga site na may sariling kopya ng modelo at pinapayagan ang mga tao na gumawa gamit ito, tulad ng PixAI, SeaArt at Yodayo. Ang kanilang mga downloads ay binibilang tulad ng sa Civitai at bawat generation run ay isang download.
OpenRouter tokens: Ang isang text model na pinagsisilbihan sa pamamagitan ng API, tulad ng Claude o GPT, ay walang weights na ida-download, kaya ang paggamit nito ay sinusukat sa tokens: mga piraso ng teksto na binasa at isinulat nito sa pamamagitan ng OpenRouter, isang gateway na ginagamit ng maraming apps, sa nakaraang 30 araw. Bawat 10,000,000 tokens ay katumbas ng isang download. Pinagmulan: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Buong modelo (checkpoint): Ang weights mismo, ang file na kayang mag-generate mag-isa. May bonus ito dahil nakadepende dito ang mga add-on.
LoRA at embedding: Maliit na add-on files na nagtutulak sa weights ng iba papunta sa isang estilo, karakter o konsepto. Hindi sila kayang tumakbo mag-isa.
Pamilya at weights: Ang base na pinagbuo ng modelo, tulad ng SD 1.5, SDXL, Flux o Wan. Lahat ng modelo ay namamana ang petsa ng release ng weights ng pamilya nito.
Edad: Mga degree na ibinabawas base sa gaano katagal nang lumabas ang weights ng pamilya: 150° kada taon, hanggang 750°. Pinananatili nito ang mga lumang downloads na may taon para mag-ipon mula sa pag-freeze sa taas ng listahan.
Pampasigla ng pamilya: Isang maliit at limitadong tulak para sa mga LoRA ng pamilyang itinataguyod ng site ngayon, palaging nakalista sa breakdown.
Stand-in score: Isang matatag na numero sa ibaba ng floor na ibinibigay sa modelong wala pang ulat mula sa pinagmulan, para kumpleto ang listahan. Hindi ito nangunguna sa modelong may datos.
Bago! (panahon ng grace): Ang isang model na mas mababa sa 7 araw ang tanda ay nagpapakita ng Bago! sa halip na score at walang puwesto sa mga ranggo. Ang score nito ay kinakalkula mula unang araw, pero ang modelong isang araw pa lang ang tanda ay lumalago nang mas mabilis kaysa sa iba, kaya kung walang paghihintay, ang #1 ng linggo ay palaging yung lumabas kahapon kaysa sa tumagal nang isang linggo.
Uso: Paano ang paglago ng modelo sa isang panahon kumpara sa karaniwang paglago ng modelo sa parehong panahon. Mas mabilis kaysa karaniwan ay pagtaas, mas mabagal ay pagbaba.
Karaniwang modelo: Gitna ng katalogo: kalahati ng mga modelo na may numero ay mas mabilis ang paglago sa panahon, kalahati ay mas mabagal.

Mga katulad na model

Hermes 3 70B Instruct

TEXT / LLM

Qwen3 VL 30B A3B Thinking

Mga AI model para sa paggawa ng larawan, video at teksto

Ang Mixtral 8x22B Instruct ay isang text model para sa pamilyang Text / LLM na nakalista sa ModelTrends.ai, isang read-only na catalog ng mga open source AI model para sa larawan, video at teksto. Ikumpara ito sa ibang Text / LLM model at tingnan ang heat score nito para makita kung gaano ito kasikat.

Higit pang Text / LLM model Higit pang Text / LLM Teksto / LLM llm mistralai pag-coding mga ahente lokal chat

Mag-browse ayon sa pamilya ng model