Pot rula Granite 4.0 Micro local?

Da — greutățile sunt deschise sub Apache 2.0 și găzduite pe Hugging Face la ibm-granite/granite-4.0-h-micro, deci le poți încărca cu Transformers sau orice runner compatibil GGUF pe hardware-ul tău.

Cât costă și cât de lung este contextul?

Prin API costă 0,02 USD per milion tokeni input și 0,11 USD per milion tokeni output, cu o fereastră de context de 131.000 tokeni.

Cum se compară Micro cu restul familiei Granite 4.0?

Micro este cel mai mic model din linia Granite 4.0, cu 3 miliarde de parametri — compromis pentru viteză și cost redus, sarcinile mai grele de raționament sunt mai bine gestionate de modelele mai mari din aceeași familie.

Granite 4.0 Micro

1777°

#llm #ibm-granite #agenți #local #buget #rapid

Rulează modelul

Oferte / Reclame

OpenRouter Terminal / API

Plătește pe token

Conversează cu acest model în browser sau apelează-l din codul tău cu o singură cheie API.

IBM | context de 131.000 tokeni | $0.02/M input, $0.11/M output. Granite-4.0-H-Micro este un model de 3B parametri din familia Granite 4. Aceste modele sunt cele mai recente dintr-o serie lansată de IBM. Sunt finetunate pentru apelarea uneltelor cu context lung.

Ghiduri pentru acest model

Ollama vs LM Studio (2026): ce aplicație AI locală să folosești și ce modele de top rulează fiecare

Cel mai bun LLM local după caz de utilizare (octombrie 2026): modelul open potrivit pentru fiecare job

De câțiva GB de VRAM am nevoie cu adevărat pentru AI local?

Ce este un fișier GGUF? Modele cuantificate explicate (Q4, Q8, fp8, NF4)

Toate ghidurile

Notele căpitanului

Scris de Captain, editorul casei

Note din 2026-10-13

Granite 4.0 Micro este modelul instruct de 3 miliarde de parametri al IBM, construit pentru apelarea uneltelor cu context lung și sarcini enterprise. Greutățile Apache 2.0 înseamnă că îl poți rula local sau fine-tuna fără restricții. La această dimensiune și preț, se adresează dezvoltatorilor care au nevoie de apelare funcțională fiabilă și RAG într-un model ce încap pe hardware modest.

Cunoscut pentru

Apelare puternică a uneltelor și funcțiilor, ajustat special pentru pipeline-uri agentice.
Fereastră de context de 131.000 tokeni, neobișnuit de mare pentru un model de 3B.
Licență Apache 2.0: utilizare comercială, fine-tuning, distribuire permise.
Douăsprezece limbi suportate, inclusiv arabă, japoneză, coreeană și chineză.
Antrenat cu RLHF și fuziune de modele pentru urmărire mai strictă a instrucțiunilor.

Atenție la

La 3 miliarde de parametri, raționamentul complex multi-pas va atinge un plafon pe care modelele mai mari îl depășesc ușor.
Prețul outputului (0,11 USD/M) este de cinci ori mai mare decât cel al inputului; sarcinile grele de generare se adună.
IBM a adăugat un prompt sistem implicit prin șablonul de chat — util de știut dacă vrei un context curat.

Cel mai bun pentru

Agenți și utilizare unelte

Sugestii de încercat

Apelul uneltei de la zero

Ai acces la o funcție numită get_weather(city: str) -> dict care returnează temperatura și condițiile curente. Un utilizator întreabă: „Este suficient de cald pentru a merge cu bicicleta în Lyon astăzi?” Scrie apelul uneltei pe care l-ai face, apoi arată cum ai folosi datele returnate pentru a răspunde utilizatorului într-o singură propoziție.

Răspuns RAG cu citare

Iată un extras din manualul unui produs: „Pompa Model X nu trebuie să depășească o presiune de operare de 4 bari. Cartușele filtrante trebuie înlocuite la fiecare 500 de ore sau când debitul scade sub 2 L/min.” Un tehnician întreabă: când trebuie înlocuit filtrul? Răspunde doar din textul de mai sus și citează cifra relevantă.

Extracție multilingvă

Extrage numele companiei, numărul facturii și suma totală din acest text și returnează-le ca JSON: „Factura numărul 2024-0891 emisă de Distribuciones Martínez S.L. Suma totală: 1.340,00 EUR. Data scadenței: 15 martie 2025.”

Compară cu

Granite 4.2 8B
Model cu greutăți deschise
context de 131,072 tokeni · $0.06/M intrare, $0.25/M ieșire
GPT-5.6 Luna
Model doar API
context de 1,050,000 tokeni · $0.20/M intrare, $1.20/M ieșire
Claude Haiku 5.5
Model doar API
context de 1,000,000 tokeni · $0.10/M intrare, $0.50/M ieșire
Gemini 2.5 Flash Lite
Model doar API
context de 1,048,576 tokeni · $0.10/M intrare, $0.40/M ieșire

Mai multe modele text de la ibm-granite

Întrebări frecvente

Pot rula Granite 4.0 Micro local?: Da — greutățile sunt deschise sub Apache 2.0 și găzduite pe Hugging Face la ibm-granite/granite-4.0-h-micro, deci le poți încărca cu Transformers sau orice runner compatibil GGUF pe hardware-ul tău.
Cât costă și cât de lung este contextul?: Prin API costă 0,02 USD per milion tokeni input și 0,11 USD per milion tokeni output, cu o fereastră de context de 131.000 tokeni.
Cum se compară Micro cu restul familiei Granite 4.0?: Micro este cel mai mic model din linia Granite 4.0, cu 3 miliarde de parametri — compromis pentru viteză și cost redus, sarcinile mai grele de raționament sunt mai bine gestionate de modelele mai mari din aceeași familie.

Verdictul căpitanului
Un model mic cu adevărat util dacă sarcina ta este apelarea uneltelor, RAG sau extracție multilingvă și vrei greutăți deschise la un preț mic.

Fișa modelului pe Hugging Face

Căpitanul scrie aceste note pe baza descrierii modelului și a fișei modelului. Prețurile și dimensiunile contextului sunt cele ale furnizorului la momentul scrierii și pot varia.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Cum se adună acest scor

Acest model nu are încă date de popularitate de la nicio sursă, așa că are un număr provizoriu sub 7,000° care menține listele complete. Nu va fi niciodată clasat mai sus decât un model cu date. Descompunerea apare aici imediat ce o sursă o raportează.

Glosar: termenii folosiți aici

Scor de căldură: Un număr care arată cât de mult este folosit și dorit un model acum, de la 0° la 9.999°. Fiecare listă de pe site care spune „cele mai călduroase” este sortată după acest scor și nimic altceva.
Prag: 7.000° este punctul de start pentru orice model cu date reale. Scara merge de la 0° la 9.999°; partea de sub prag este rezervată pentru înlocuitori (modele fără date), ca să fie sigur că un model cu date e mereu mai sus decât unul fără. Pragul e același pentru toți și nu decide nimic; gradele de deasupra lui sunt măsurătoarea.
Echivalente descărcări: Tot ce scorul tratează ca o descărcare, adunat: descărcările în sine, fiecare seeder de torrent ca 1.000, fiecare imagine AI Horde și fiecare rulare pe un site de generare ca una.
Scară logaritmică: Se numără la zeci, nu la unități: trecerea de la 1.000 la 10.000 descărcări adaugă aceleași grade ca trecerea de la 10.000 la 100.000. Astfel, modelele mari nu acoperă tot ce e mic.
Aprecieri: Like-uri și aprecieri de oriunde, fiecare valorează jumătate dintr-o descărcare pe scara logaritmică.
Rata de adoptare: Câte descărcări pe zi primește un model acum, calculat din diferența dintre două citiri ale unei surse. Are un sfert din greutatea termenului de descărcare.
Măsurat și estimat: Măsurat înseamnă că există două citiri ale unei surse și diferența este reală. Estimat înseamnă că se știe doar totalul de azi, iar trecutul este împărțit pe durata vieții modelului; site-ul spune care dintre ele este afișat.
Seeder: Cineva care păstrează o copie a greutăților online pentru ca alții să le descarce prin torrent, sau o oglindă găzduită care face același lucru. Fiecare contează ca 1.000 de descărcări.
AI Horde: O rețea de voluntari care generează imagini gratuit pe calculatoare donate. Numărul de imagini create cu un model este public și fiecare contează ca o descărcare.
Site-uri de generare: Site-uri care găzduiesc propriile copii ale unui model și permit oamenilor să genereze cu el, cum ar fi PixAI, SeaArt și Yodayo. Descărcările lor contează ca cele de pe Civitai, iar fiecare rulare de generare ca o descărcare.
Tokeni OpenRouter: Un model de text servit printr-un API, cum ar fi Claude sau GPT, nu are greutăți de descărcat, deci utilizarea sa se măsoară în tokeni: bucățile de text citite și scrise prin OpenRouter, un gateway folosit de multe aplicații, în ultimele 30 de zile. Fiecare 10,000,000 tokeni contează ca un download. Sursa: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model complet (checkpoint): Greutățile în sine, fișierul care generează singur. Primește un bonus pentru că depind de el add-on-urile.
LoRA și embedding: Fișiere mici add-on care direcționează greutățile altcuiva spre un stil, un personaj sau un concept. Nu pot rula singure.
Familie și greutăți: Baza pe care este construit un model, cum ar fi SD 1.5, SDXL, Flux sau Wan. Fiecare model moștenește data lansării greutăților familiei sale.
Vârstă: Grade scăzute în funcție de cât timp a trecut de când au apărut greutățile familiei: 150° pe an, până la 750°. Păstrează descărcările vechi care au avut ani să se acumuleze, blocând topul listei.
Boost de familie: Un mic impuls limitat pentru LoRA-urile unei familii pe care site-ul o promovează acum, întotdeauna listat în detaliu.
Scor de rezervă: Un număr stabil sub prag, dat unui model despre care nicio sursă nu raportează încă, ca listele să rămână complete. Nu se clasează niciodată peste un model cu date.
Nou! (perioadă de grație): Un model mai nou de 7 zile afișează Nou! în loc de scor și nu ocupă loc în clasamente. Scorul său este calculat de la prima zi, dar un model de o zi crește mai rapid decât orice altceva, deci fără această așteptare, modelul #1 al săptămânii ar fi întotdeauna cel apărut ieri, nu cel care a rezistat o săptămână.
Tendință: Cum se compară creșterea unui model într-o perioadă cu creșterea tipică a unui model în aceeași perioadă. Mai rapid decât tipicul înseamnă creștere, mai lent scădere.
Model tipic: Mijlocul catalogului: jumătate dintre modele cu o cifră au crescut mai repede în perioada respectivă, jumătate mai încet.

Modele similare

Qwen3 VL 32B Instruct

TEXT / LLM

Modele AI pentru generare de imagini, video și text

Granite 4.0 Micro este un model de text pentru familia Text / LLM, listat pe ModelTrends.ai, un catalog doar pentru citire al modelelor AI open source pentru imagini, video și text. Compară-l cu alte modele Text / LLM și verifică-i scorul de căldură pentru a vedea cât este de popular.

Mai multe modele Text / LLM llm ibm-granite agenți local buget rapid multilingv

Răsfoiește după familia de modele