Tôi có thể chạy Granite 4.0 Micro tại chỗ không?

Có — trọng số mở theo Apache 2.0 và lưu trên Hugging Face tại ibm-granite/granite-4.0-h-micro, bạn có thể tải bằng Transformers hoặc bất kỳ trình chạy GGUF tương thích trên phần cứng của mình.

Chi phí bao nhiêu và ngữ cảnh dài bao nhiêu?

Qua API là $0.02 cho mỗi triệu token đầu vào và $0.11 cho mỗi triệu token đầu ra, với cửa sổ ngữ cảnh 131.000 token.

Micro so với các mô hình Granite 4.0 khác thế nào?

Micro là mô hình nhỏ nhất trong dòng Granite 4.0 với 3 tỷ tham số — đổi lại tốc độ và chi phí thấp, các tác vụ suy luận nặng hơn nên dùng các mô hình lớn hơn trong cùng dòng.

Granite 4.0 Micro

1777°

#llm #ibm-granite #tác nhân #cục bộ #ngân sách #nhanh

Chạy mô hình này

Ưu đãi / Quảng cáo

OpenRouter Terminal / API

Trả theo token

Trò chuyện với mô hình này trên trình duyệt hoặc gọi nó từ mã của bạn với một khóa API.

IBM | ngữ cảnh 131,000 token | $0.02/M đầu vào, $0.11/M đầu ra. Granite-4.0-H-Micro là mô hình 3 tỷ tham số thuộc dòng Granite 4. Đây là các mô hình mới nhất trong chuỗi mô hình do IBM phát hành. Chúng được tinh chỉnh cho gọi công cụ ngữ cảnh dài.

Hướng dẫn cho mô hình này

Ollama vs LM Studio (2026): nên dùng ứng dụng AI cục bộ nào, và mỗi ứng dụng chạy những mô hình hàng đầu nào

LLM cục bộ tốt nhất theo từng trường hợp sử dụng (Tháng 10 năm 2026): mô hình mở phù hợp cho mọi công việc

Mình thực sự cần bao nhiêu VRAM cho AI cục bộ?

Tệp GGUF là gì? Giải thích về các mô hình lượng tử hóa (Q4, Q8, fp8, NF4)

Tất cả hướng dẫn

Ghi chú của thuyền trưởng

Viết bởi Captain, biên tập viên chính

Ghi chú từ 2026-10-13

Granite 4.0 Micro là mô hình hướng dẫn 3 tỷ tham số của IBM, thiết kế cho gọi công cụ ngữ cảnh dài và tác vụ doanh nghiệp. Trọng số Apache 2.0 cho phép bạn chạy tại chỗ hoặc tinh chỉnh không giới hạn. Với kích thước và giá này, nó hướng tới nhà phát triển cần gọi hàm và RAG đáng tin cậy trong mô hình phù hợp phần cứng vừa phải.

Nổi tiếng với

Gọi công cụ và gọi hàm mạnh mẽ, tinh chỉnh đặc biệt cho quy trình tác nhân.
Cửa sổ ngữ cảnh 131.000 token, rất lớn so với mô hình 3B.
Giấy phép Apache 2.0: sử dụng thương mại, tinh chỉnh, phân phối.
Hỗ trợ 12 ngôn ngữ bao gồm Ả Rập, Nhật, Hàn và Trung.
Huấn luyện với RLHF và hợp nhất mô hình để theo dõi hướng dẫn chặt chẽ hơn.

Cẩn thận với

Với 3 tỷ tham số, suy luận đa bước phức tạp sẽ bị giới hạn mà các mô hình lớn hơn vượt qua dễ dàng.
Giá đầu ra ($0.11/M) gấp năm lần đầu vào; khối lượng tạo lớn sẽ tăng chi phí.
IBM thêm prompt hệ thống mặc định qua mẫu chat — cần lưu ý nếu bạn muốn khởi đầu sạch.

Phù hợp nhất cho

Tác nhân và sử dụng công cụ

Lời nhắc để thử

Gọi công cụ từ đầu

Bạn có hàm get_weather(city: str) -> dict trả về nhiệt độ và điều kiện hiện tại. Người dùng hỏi: 'Hôm nay ở Lyon có đủ ấm để đi xe đạp không?' Viết lệnh gọi công cụ bạn sẽ dùng, rồi dùng dữ liệu trả về trả lời người dùng trong một câu.

Trả lời RAG có trích dẫn

Đây là đoạn trích hướng dẫn sản phẩm: 'Bơm Model X không được vượt quá áp suất hoạt động 4 bar. Lõi lọc nên thay sau 500 giờ hoặc khi lưu lượng giảm dưới 2 L/phút.' Kỹ thuật viên hỏi: khi nào nên thay lõi lọc? Chỉ trả lời dựa trên đoạn trên và trích dẫn số liệu liên quan.

Trích xuất đa ngôn ngữ

Trích xuất tên công ty, số hóa đơn và tổng số tiền từ đoạn văn này và trả về dưới dạng JSON: 'Factura número 2024-0891 emitida por Distribuciones Martínez S.L. Importe total: 1.340,00 EUR. Fecha de vencimiento: 15 de marzo de 2025.'

So sánh với

Granite 4.2 8B
Mô hình mở trọng số
ngữ cảnh 131,072 token · Đầu vào $0.06/M, đầu ra $0.25/M
GPT-5.6 Luna
Mô hình chỉ API
ngữ cảnh 1,050,000 token · Đầu vào $0.20/M, đầu ra $1.20/M
Claude Haiku 5.5
Mô hình chỉ API
ngữ cảnh 1,000,000 token · Đầu vào $0.10/M, đầu ra $0.50/M
Gemini 2.5 Flash Lite
Mô hình chỉ API
ngữ cảnh 1,048,576 token · Đầu vào $0.10/M, đầu ra $0.40/M

Thêm mô hình văn bản từ ibm-granite

Câu hỏi thường gặp

Tôi có thể chạy Granite 4.0 Micro tại chỗ không?: Có — trọng số mở theo Apache 2.0 và lưu trên Hugging Face tại ibm-granite/granite-4.0-h-micro, bạn có thể tải bằng Transformers hoặc bất kỳ trình chạy GGUF tương thích trên phần cứng của mình.
Chi phí bao nhiêu và ngữ cảnh dài bao nhiêu?: Qua API là $0.02 cho mỗi triệu token đầu vào và $0.11 cho mỗi triệu token đầu ra, với cửa sổ ngữ cảnh 131.000 token.
Micro so với các mô hình Granite 4.0 khác thế nào?: Micro là mô hình nhỏ nhất trong dòng Granite 4.0 với 3 tỷ tham số — đổi lại tốc độ và chi phí thấp, các tác vụ suy luận nặng hơn nên dùng các mô hình lớn hơn trong cùng dòng.

Phán quyết của thuyền trưởng
Một mô hình nhỏ thực sự hữu ích nếu công việc của bạn là gọi công cụ, RAG hoặc trích xuất đa ngôn ngữ và bạn muốn trọng số mở với chi phí thấp.

Thẻ mô hình trên Hugging Face

Thuyền trưởng viết những ghi chú này dựa trên mô tả và thẻ mô hình của mô hình. Giá cả và kích thước ngữ cảnh là của nhà cung cấp tại thời điểm viết và có thể thay đổi.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Điểm số này được tính như thế nào

Mô hình này chưa có dữ liệu phổ biến từ bất kỳ nguồn nào, nên nó mang một số thay thế dưới 7,000° để giữ cho danh sách đầy đủ. Nó không bao giờ xếp trên một mô hình có dữ liệu. Phân tích chi tiết sẽ xuất hiện ở đây ngay khi có nguồn báo cáo.

Thuật ngữ: các từ dùng ở đây

Điểm nhiệt: Một số duy nhất cho biết mô hình được dùng và mong muốn thế nào hiện tại, từ 0° đến 9.999°. Mọi danh sách trên trang này nói về độ hot đều sắp xếp theo nó và không theo gì khác.
Sàn điểm: 7.000° là điểm bắt đầu cho mọi mô hình có dữ liệu thật. Thang điểm chạy từ 0° đến 9.999°; phần dưới sàn dành cho mô hình thay thế (mô hình không có dữ liệu), để mô hình có dữ liệu luôn xếp trên mô hình không có. Sàn điểm giống nhau cho tất cả và không quyết định gì; điểm trên sàn mới là thước đo.
Tương đương lượt tải: Tất cả những gì điểm số coi là lượt tải, cộng lại: lượt tải thật, mỗi người chia sẻ torrent tính 1.000, mỗi ảnh AI Horde và mỗi lượt chạy trên trang tạo ảnh tính một.
Thang log: Đếm theo chục, không phải theo đơn vị: từ 1.000 lên 10.000 lượt tải thêm cùng số điểm như từ 10.000 lên 100.000. Giúp tránh việc các mô hình lớn lấn át hết mọi thứ khác.
Lượt thích: Giơ ngón tay cái và lượt thích từ mọi nguồn, mỗi lượt bằng một nửa lượt tải trên thang log.
Tỷ lệ áp dụng: Bao nhiêu lượt tải mỗi ngày mà mô hình nhận được hiện tại, tính từ chênh lệch giữa hai lần đọc nguồn. Bằng một phần tư trọng số của lượt tải.
Đã đo và ước tính: Đã đo nghĩa là có hai lần đọc từ một nguồn và sự khác biệt là thật. Ước tính nghĩa là chỉ biết tổng số hôm nay và quá khứ được phân bổ trong suốt thời gian tồn tại của mô hình; trang web sẽ nói rõ đang hiển thị loại nào.
Seeder: Người giữ bản sao trọng số trực tuyến để người khác tải qua torrent, hoặc một bản sao lưu trữ làm điều tương tự. Mỗi người được tính là 1.000 lượt tải.
AI Horde: Một mạng lưới tình nguyện tạo ảnh miễn phí trên máy tính được hiến tặng. Số ảnh nó đã tạo với một mô hình được công khai, và mỗi ảnh được tính là một lượt tải.
Trang tạo ảnh: Các trang lưu trữ bản sao mô hình riêng và cho phép người dùng tạo ảnh, như PixAI, SeaArt và Yodayo. Lượt tải của họ được tính giống như Civitai và mỗi lần tạo ảnh được tính là một lượt tải.
Token OpenRouter: Mô hình văn bản phục vụ qua API, như Claude hoặc GPT, không có trọng số để tải xuống, nên sử dụng token để đo lường: các đoạn văn bản nó đọc và viết qua OpenRouter, một cổng kết nối nhiều ứng dụng sử dụng, trong 30 ngày qua. Mỗi 10,000,000 token tính là một lượt tải. Nguồn: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Mô hình đầy đủ (checkpoint): Chính là trọng số, file tự tạo ảnh. Nó được cộng thêm điểm vì các add-on phụ thuộc vào nó.
LoRA và embedding: Các file add-on nhỏ giúp điều chỉnh trọng số của người khác theo phong cách, nhân vật hoặc ý tưởng. Chúng không thể chạy riêng.
Gia đình và trọng số: Nền tảng mà mô hình xây dựng trên đó, như SD 1.5, SDXL, Flux hoặc Wan. Mỗi mô hình kế thừa ngày phát hành của trọng số gia đình nó.
Tuổi: Điểm trừ dựa trên thời gian trọng số gia đình được phát hành: 150° mỗi năm, tối đa 750°. Nó giữ lại lượt tải cũ đã tích tụ nhiều năm bằng cách đóng băng đầu danh sách.
Tăng gia đình: Một đẩy nhỏ có giới hạn cho LoRA của một gia đình mà trang này đang ưu tiên, luôn được liệt kê trong phần phân tích.
Điểm thay thế: Một số ổn định dưới mức tối thiểu dành cho mô hình chưa có báo cáo nguồn, để danh sách luôn đầy đủ. Nó không bao giờ xếp trên mô hình có dữ liệu.
Mới! (giai đoạn thử nghiệm): Mô hình dưới 7 ngày tuổi hiển thị Mới! thay vì điểm số và không được xếp hạng. Điểm số được tính từ ngày đầu tiên, nhưng mô hình mới một ngày tăng trưởng nhanh nhất, nên nếu không chờ đợi thì #1 tuần này sẽ luôn là mô hình mới ra hôm qua thay vì mô hình giữ vững trong tuần.
Xu hướng: Tốc độ tăng trưởng của mô hình trong một khoảng thời gian so với tốc độ tăng trưởng trung bình của mô hình khác trong cùng khoảng thời gian. Nhanh hơn trung bình là tăng, chậm hơn là giảm.
Mô hình điển hình: Giữa danh mục: một nửa mô hình có số liệu tăng nhanh hơn trong khoảng thời gian, một nửa tăng chậm hơn.

Mô hình tương tự

Llama 3.3 70B Instruct

Mô hình AI để tạo hình ảnh, video & văn bản

Granite 4.0 Micro là một mô hình văn bản thuộc họ Text / LLM được liệt kê trên ModelTrends.ai, danh mục chỉ đọc về các mô hình AI hình ảnh, video và văn bản mã nguồn mở. So sánh nó với các mô hình Text / LLM khác và xem điểm độ hot để biết xu hướng.

Thêm mô hình Text / LLM Thêm Văn bản / LLM Text / LLM llm ibm-granite tác nhân cục bộ ngân sách nhanh đa ngôn ngữ

Duyệt theo họ mô hình