Poate Inkling Small să ruleze local?

Da — greutățile sunt deschise și fișa modelului listează rețete pentru SGLang, vLLM, Unsloth, TokenSpeed și Hugging Face, deci poți să-l găzduiești singur. Ține cont că numărul total de parametri este 276B, deci vei avea nevoie de hardware substanțial chiar dacă doar 12B parametri sunt activi per token.

Cât costă Inkling Small și cât de lungă este fereastra de context?

Prin API costă 0,45 USD per milion de tokeni de intrare și 1,20 USD per milion de tokeni de ieșire, cu o fereastră de context de 524.288 tokeni.

Cum diferă Inkling Small de modelul complet Inkling?

Inkling Small este membrul mai mic și mai eficient al familiei — cu un număr mai mic de parametri activi și preț API mai mic — în timp ce modelul complet Inkling este poziționat mai sus în gamă. Thinking Machines nu a publicat o comparație detaliată a capabilităților între cele două.

Inkling Small

5840°

#llm #thinkingmachines #viziune #audio #raționament #agenți

Rulează modelul

Oferte / Reclame

OpenRouter Terminal / API

Plătește pe token

Conversează cu acest model în browser sau apelează-l din codul tău cu o singură cheie API.

Thinking Machines | context de 524.288 tokeni | $0.45/M input, $1.20/M output. Inkling Small este un model multimodal open-weight Mixture-of-Experts de la Thinking Machines Lab, cu 12 miliarde de parametri activi din total 276 miliarde. Este poziționat ca membrul mai mic și mai eficient al familiei Inkling și este potrivit pentru raționament, programare, fluxuri de lucru agentice, generare augmentată cu recuperare, urmărirea instrucțiunilor și conversații multilingve.

Ghiduri pentru acest model

Cel mai bun LLM local după caz de utilizare (octombrie 2026): modelul open potrivit pentru fiecare job

De câțiva GB de VRAM am nevoie cu adevărat pentru AI local?

Greutăți deschise vs open source vs doar API: ce ai voie să faci cu adevărat

Ce este un fișier GGUF? Modele cuantificate explicate (Q4, Q8, fp8, NF4)

Toate ghidurile

Notele căpitanului

Scris de Captain, editorul casei

Note din 2026-10-13

Inkling Small este un model multimodal mixture-of-experts cu greutăți deschise de la Thinking Machines Lab, cu 12 miliarde de parametri activi dintr-un total de 276 miliarde. Acceptă intrări text, imagine și audio, rulează local și se adresează dezvoltatorilor care construiesc sisteme agentice, asistenți de programare și pipeline-uri RAG. Prețul este suficient de mic încât utilizarea API să rămână ieftină chiar și la scară moderată.

Cunoscut pentru

Gestionează nativ text, imagine și audio într-un singur model
Arhitectură MoE: 12B parametri activi mențin costurile inferenței scăzute
Fereastra de context de 512K tokeni — neobișnuit de mare pentru clasa sa
Conceput pentru fluxuri agentice și de utilizare a uneltelor din start
Greutăți deschise suportă implementare locală prin SGLang, vLLM și Unsloth

Atenție la

Intrarea audio necesită WAV la 16kHz; clipurile peste două minute pot pierde din calitate.
276B parametri total înseamnă că implementarea locală cere hardware serios, în ciuda numărului redus de parametri activi.
Licența este Acceptable Use, nu complet permisivă — verifică termenii Thinking Machines înainte de utilizare comercială.

Cel mai bun pentru

Agenți și utilizare unelte

Sugestii de încercat

Depanează un loop agent defect

Am un agent Python care apelează o unealtă de căutare, parsează rezultatul și decide dacă apelează din nou sau returnează un răspuns final. Uneori intră într-un loop infinit. Iată codul: [lipiți al vostru]. Identifică cauza probabilă a loop-ului infinit, explică de ce se întâmplă și rescrie secțiunea relevantă cu o corecție și o limită maximă de iterații.

Raționează o problemă de planificare

O echipă mică de patru persoane trebuie să finalizeze șase sarcini înainte de termenul de vineri. Sarcinile A și D trebuie să fie gata înainte ca B să înceapă. Sarcina C depinde de B. Sarcinile E și F sunt independente. Cel mult două persoane pot lucra în paralel. Mapează calea critică, identifică cea mai timpurie zi posibilă de finalizare presupunând că fiecare sarcină durează o zi și semnalează orice riscuri de programare.

Extracție instrucțiuni multilingvă

Următorul mesaj de suport clienți este scris într-un amestec de tagalog și engleză. Extrage plângerea principală, produsul menționat și acțiunea solicitată de client. Returnează răspunsul ca un obiect JSON cu cheile: complaint, product, requested_action. Mesaj: „Hindi gumagana yung headset na binili ko last week, parang may sira yung left ear. Can you replace it or give a refund?”

Compară cu

Inkling
Model cu greutăți deschise
context de 524,288 tokeni · $1.00/M intrare, $4.05/M ieșire
GPT-6 Luna
Model doar API
context de 1,050,000 tokeni · $0.10/M intrare, $0.50/M ieșire
GPT-5.6 Luna
Model doar API
context de 1,050,000 tokeni · $0.20/M intrare, $1.20/M ieșire
Claude Opus 5.5
Model doar API
context de 1,000,000 tokeni · $4.00/M intrare, $20.00/M ieșire

Mai multe modele text de la thinkingmachines

Întrebări frecvente

Poate Inkling Small să ruleze local?: Da — greutățile sunt deschise și fișa modelului listează rețete pentru SGLang, vLLM, Unsloth, TokenSpeed și Hugging Face, deci poți să-l găzduiești singur. Ține cont că numărul total de parametri este 276B, deci vei avea nevoie de hardware substanțial chiar dacă doar 12B parametri sunt activi per token.
Cât costă Inkling Small și cât de lungă este fereastra de context?: Prin API costă 0,45 USD per milion de tokeni de intrare și 1,20 USD per milion de tokeni de ieșire, cu o fereastră de context de 524.288 tokeni.
Cum diferă Inkling Small de modelul complet Inkling?: Inkling Small este membrul mai mic și mai eficient al familiei — cu un număr mai mic de parametri activi și preț API mai mic — în timp ce modelul complet Inkling este poziționat mai sus în gamă. Thinking Machines nu a publicat o comparație detaliată a capabilităților între cele două.

Verdictul căpitanului
Un model mic rar care gestionează cu adevărat text, imagine și audio împreună — merită încercat dacă construiești agenți multimodali și vrei greutăți deschise.

Fișa modelului pe Hugging Face

Căpitanul scrie aceste note pe baza descrierii modelului și a fișei modelului. Prețurile și dimensiunile contextului sunt cele ale furnizorului la momentul scrierii și pot varia.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Cum se adună acest scor

Acest model nu are încă date de popularitate de la nicio sursă, așa că are un număr provizoriu sub 7,000° care menține listele complete. Nu va fi niciodată clasat mai sus decât un model cu date. Descompunerea apare aici imediat ce o sursă o raportează.

Glosar: termenii folosiți aici

Scor de căldură: Un număr care arată cât de mult este folosit și dorit un model acum, de la 0° la 9.999°. Fiecare listă de pe site care spune „cele mai călduroase” este sortată după acest scor și nimic altceva.
Prag: 7.000° este punctul de start pentru orice model cu date reale. Scara merge de la 0° la 9.999°; partea de sub prag este rezervată pentru înlocuitori (modele fără date), ca să fie sigur că un model cu date e mereu mai sus decât unul fără. Pragul e același pentru toți și nu decide nimic; gradele de deasupra lui sunt măsurătoarea.
Echivalente descărcări: Tot ce scorul tratează ca o descărcare, adunat: descărcările în sine, fiecare seeder de torrent ca 1.000, fiecare imagine AI Horde și fiecare rulare pe un site de generare ca una.
Scară logaritmică: Se numără la zeci, nu la unități: trecerea de la 1.000 la 10.000 descărcări adaugă aceleași grade ca trecerea de la 10.000 la 100.000. Astfel, modelele mari nu acoperă tot ce e mic.
Aprecieri: Like-uri și aprecieri de oriunde, fiecare valorează jumătate dintr-o descărcare pe scara logaritmică.
Rata de adoptare: Câte descărcări pe zi primește un model acum, calculat din diferența dintre două citiri ale unei surse. Are un sfert din greutatea termenului de descărcare.
Măsurat și estimat: Măsurat înseamnă că există două citiri ale unei surse și diferența este reală. Estimat înseamnă că se știe doar totalul de azi, iar trecutul este împărțit pe durata vieții modelului; site-ul spune care dintre ele este afișat.
Seeder: Cineva care păstrează o copie a greutăților online pentru ca alții să le descarce prin torrent, sau o oglindă găzduită care face același lucru. Fiecare contează ca 1.000 de descărcări.
AI Horde: O rețea de voluntari care generează imagini gratuit pe calculatoare donate. Numărul de imagini create cu un model este public și fiecare contează ca o descărcare.
Site-uri de generare: Site-uri care găzduiesc propriile copii ale unui model și permit oamenilor să genereze cu el, cum ar fi PixAI, SeaArt și Yodayo. Descărcările lor contează ca cele de pe Civitai, iar fiecare rulare de generare ca o descărcare.
Tokeni OpenRouter: Un model de text servit printr-un API, cum ar fi Claude sau GPT, nu are greutăți de descărcat, deci utilizarea sa se măsoară în tokeni: bucățile de text citite și scrise prin OpenRouter, un gateway folosit de multe aplicații, în ultimele 30 de zile. Fiecare 10,000,000 tokeni contează ca un download. Sursa: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Model complet (checkpoint): Greutățile în sine, fișierul care generează singur. Primește un bonus pentru că depind de el add-on-urile.
LoRA și embedding: Fișiere mici add-on care direcționează greutățile altcuiva spre un stil, un personaj sau un concept. Nu pot rula singure.
Familie și greutăți: Baza pe care este construit un model, cum ar fi SD 1.5, SDXL, Flux sau Wan. Fiecare model moștenește data lansării greutăților familiei sale.
Vârstă: Grade scăzute în funcție de cât timp a trecut de când au apărut greutățile familiei: 150° pe an, până la 750°. Păstrează descărcările vechi care au avut ani să se acumuleze, blocând topul listei.
Boost de familie: Un mic impuls limitat pentru LoRA-urile unei familii pe care site-ul o promovează acum, întotdeauna listat în detaliu.
Scor de rezervă: Un număr stabil sub prag, dat unui model despre care nicio sursă nu raportează încă, ca listele să rămână complete. Nu se clasează niciodată peste un model cu date.
Nou! (perioadă de grație): Un model mai nou de 7 zile afișează Nou! în loc de scor și nu ocupă loc în clasamente. Scorul său este calculat de la prima zi, dar un model de o zi crește mai rapid decât orice altceva, deci fără această așteptare, modelul #1 al săptămânii ar fi întotdeauna cel apărut ieri, nu cel care a rezistat o săptămână.
Tendință: Cum se compară creșterea unui model într-o perioadă cu creșterea tipică a unui model în aceeași perioadă. Mai rapid decât tipicul înseamnă creștere, mai lent scădere.
Model tipic: Mijlocul catalogului: jumătate dintre modele cu o cifră au crescut mai repede în perioada respectivă, jumătate mai încet.

Modele similare

Modele AI pentru generare de imagini, video și text

Inkling Small este un model de text pentru familia Text / LLM, listat pe ModelTrends.ai, un catalog doar pentru citire al modelelor AI open source pentru imagini, video și text. Compară-l cu alte modele Text / LLM și verifică-i scorul de căldură pentru a vedea cât este de popular.

Mai multe modele Text / LLM llm thinkingmachines viziune audio raționament agenți programare multilingv

Răsfoiește după familia de modele