我可以本地執行 Mixtral 8x22B Instruct 嗎？

Mistral | 65,536 token context | $2.00/M input, $6.00/M output. Mixtral 8x22B 的官方指令微調版本，由 Mistral 發布。使用 1410 億參數中活躍的 390 億參數，提供同尺寸中無與倫比的成本效益。其優勢包括：詳見發布公告中的基準測試Opens in new tab。#moe

本模型的指南

2026年10月最佳本地大型語言模型（LLM）按使用情境分類：每個工作都適合的開放模型

我到底需要多少 VRAM 才能在本地跑 AI？

什麼是 GGUF 檔案？量化模型解說（Q4、Q8、fp8、NF4）

全部指南

船長筆記

由 Captain 撰寫，內部編輯

2026-10-13 的筆記

Mixtral 8x22B Instruct 是 Mistral 的指令微調稀疏專家混合模型，推理時啟用 39B 參數（總計 141B）。MoE 架構讓你以較低計算成本獲得接近大型密集模型的能力。適合需要強大通用性能且想使用開放權重自行部署或透過 API 運行的開發者。

以...聞名

稀疏 MoE 設計：從 141B 總參數中啟用 39B，降低推理成本。
開放權重可在 Hugging Face 自行部署。
內建函式呼叫支援於分詞器中。
兼容 mistral_inference 與 Hugging Face transformers 管線。

注意

141B 總參數對本地推理 VRAM 要求高，幾乎必須量化。
Mistral 建議使用 mistral_common 分詞器以確保結果精確，HF 分詞器可能略有差異。
API 輸出代幣每百萬 6 美元，長生成任務成本快速攀升。

最適合

可嘗試的提示詞

多步驟函式計畫

你有兩個工具：search_web(query) 和 send_email(to, subject, body)。使用者問：「找出目前銅期貨價格並將摘要寄給 procurement@example.com。」請寫出你會呼叫的工具序列與參數，並解釋每步推理。

為可讀性重構

請重構以下 Python 函式，使其更易讀且易維護。加入型別提示，重新命名不清楚的變數，若函式職責過多請拆分。解釋你做的每項更動及原因。 def proc(d, x): r = [] for i in d: if i['v'] > x: r.append({'id': i['id'], 'val': i['v'] * 1.1}) return r

結構化資料擷取

從以下文字中擷取所有公司名稱、成立年份與總部城市。以 JSON 陣列回傳，每個物件含有 'company'、'founded' 與 'city' 鍵。若欄位未提及，填 null。 'Stripe was founded in 2010 and is based in San Francisco. Revolut, headquartered in London, launched in 2015. Adyen has operated from Amsterdam since 2006.'

比較

Mistral Large 4
僅限 API 模型
1,048,576 代幣上下文 · $0.68/M 輸入，$2.09/M 輸出
Mistral Large
僅限 API 模型
128,000 代幣上下文 · $2.00/M 輸入，$6.00/M 輸出
Mistral Medium 3.5
僅限 API 模型
262,144 代幣上下文 · $1.50/M 輸入，$7.50/M 輸出
Mistral Medium 3
僅限 API 模型
131,072 代幣上下文 · $0.40/M 輸入，$2.00/M 輸出

更多來自 mistralai 的文字模型

常見問題

我可以本地執行 Mixtral 8x22B Instruct 嗎？: 可以，權重開放並托管於 Hugging Face 的 mistralai/Mixtral-8x22B-Instruct-v0.1。請注意模型總參數為 141B，幾乎必須量化才能在消費級或專業硬體上運行。
費用與上下文視窗長度是多少？: API 定價為每百萬輸入代幣 2 美元，輸出代幣 6 美元，上下文視窗長度為 65,536 代幣。
8x22B 與 Mixtral 8x7B 有何差異？: 8x22B 擴大專家數量與規模，推理時啟用 39B 參數，較 8x7B 約 12B 參數強大，帶來更佳性能，但 VRAM 與 API 成本也較高。

船長評語
具備巧妙成本效益的開放權重工作馬，但本地部署需謹慎規劃硬體。

Hugging Face 上的模型卡

船長根據模型自身描述與模型卡撰寫這些筆記。價格與上下文大小為撰寫時提供者資料，可能會變動。

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

這個分數是怎麼累積的

這個模型目前還沒有任何來源的流行度數據，所以它會有一個低於 7,000° 的替代數字，讓列表保持完整。它永遠不會排在有數據的模型前面。一旦有來源報告數據，細項就會顯示在這裡。

詞彙表：這裡使用的術語

熱度分數: 一個數字，表示模型目前的使用和需求程度，範圍從 0° 到 9,999°。本網站所有標示「最熱門」的排行榜都是依此排序，沒有其他排序依據。
底線: 每個有實際數據的模型起始於 7,000°。分數範圍是 0° 到 9,999°；底線以下保留給沒有數據的模型，確保有數據的模型總是排名較前。底線對所有人相同，不影響排名；超過底線的度數才是評分依據。
下載等值: 分數中視為下載的所有項目加總：下載本身、每個種子節點算 1,000、每張 AI Horde 圖像和每次生成網站的執行算一。
對數刻度: 以十為單位計數，不是以一為單位：從 1,000 到 10,000 下載增加的度數，和從 10,000 到 100,000 增加的度數相同。這樣能防止巨頭壓過其他模型。
喜歡數: 來自各來源的讚和喜歡，每個在對數刻度上算半個下載量。
採用率: 模型目前每天的下載次數，根據兩次來源讀取的差異計算。權重是下載量的四分之一。
實測與估算: 實測表示有兩個來源的讀數，且差異是真實的。估算表示只知道今天的總數，過去的數據則分散在模型的整個生命週期；網站會說明顯示的是哪一種。
種子節點: 指在線上保留權重檔案供他人透過種子下載的人，或是提供相同服務的鏡像站。每一個種子節點算作1,000次下載。
AI Horde: 一個志願者網絡，利用捐贈的電腦免費生成圖片。它用某模型生成的圖片數量是公開的，每張圖片算作一次下載。
生成網站: 自己托管模型並讓人使用它生成圖片的網站，例如PixAI、SeaArt和Yodayo。它們的下載量和Civitai一樣，每次生成算一次下載。
OpenRouter 代幣: 透過 API 提供的文字模型，如 Claude 或 GPT，沒有權重可下載，因此使用量以代幣計算：過去30天內透過 OpenRouter（許多應用使用的閘道）讀取和生成的文字片段。每 10,000,000 代幣算作一次下載。來源：OpenRouter (openrouter.ai/rankings)，CC BY 4.0。
完整模型（檢查點）: 權重本身，是能獨立生成的檔案。它會有額外加分，因為其他附加檔案都依賴它。
LoRA和嵌入: 小型附加檔案，用來引導別人的權重走向某種風格、角色或概念。它們無法獨立運行。
家族與權重: 模型所建立的基礎，例如SD 1.5、SDXL、Flux或Wan。每個模型都繼承其家族權重的發布日期。
年齡: 根據家族權重發布時間距今多久，扣除的度數：每年150°，最多750°。它會保留那些有多年累積下載的舊模型，防止它們從排行榜頂端消失。
家族加成: 針對本站目前推廣的某個家族的LoRA給予的小幅度限制加成，會在分解中顯示。
替代分數: 給尚無來源報告的模型一個穩定的最低分，讓列表保持完整。它永遠不會高於有數據的模型。
全新！(寬限期): 不到 7 天的新模型會顯示「全新！」而非分數，且不列入排名。分數從第一天開始計算，但一天大的模型成長最快，若不等待，週榜首將永遠是昨天剛出的模型，而非持續一週的。
趨勢: 模型在某段時間內的成長與典型模型同期成長的比較。比典型快表示上升，比典型慢表示下降。
典型模型: 目錄中的中間值：一半模型在該期間成長較快，一半較慢。