Ternary Bonsai 2 27B
3357°
Chạy mô hình này
Ưu đãi / Quảng cáo
PrismML | ngữ cảnh 262,144 token | $0.07/M đầu vào, $0.50/M đầu ra. Bonsai 2 27B là mô hình suy luận 27 tỷ tham số từ PrismML dựa trên Qwen3.8-27B. Nó hỗ trợ lập trình, toán học, gọi công cụ và hiểu hình ảnh với cửa sổ ngữ cảnh 262K token. Nén ba trị làm giảm kích thước trọng số mô hình ngôn ngữ xuống khoảng 8.5 GB trong khi giữ lại 98.2% điểm trung bình của mô hình gốc trên 14 bài kiểm tra tư duy của PrismML, cho phép suy luận hiệu quả trên phần cứng tiêu dùng. Mô hình mặc định suy nghĩ và ưu tiên nỗ lực suy luận xhigh.
Hướng dẫn cho mô hình này
Ollama vs LM Studio (2026): nên dùng ứng dụng AI cục bộ nào, và mỗi ứng dụng chạy những mô hình hàng đầu nào
Tệp GGUF là gì? Giải thích về các mô hình lượng tử hóa (Q4, Q8, fp8, NF4)
Mình thực sự cần bao nhiêu VRAM cho AI cục bộ?
Ghi chú của thuyền trưởng
Ghi chú từ 2026-10-13
Ternary Bonsai 2 27B là mô hình suy luận 27 tỷ tham số từ PrismML, xây dựng trên nền tảng Qwen3.8-27B và nén thành trọng số ba trị (ternary) để mô hình ngôn ngữ vừa vặn trong khoảng 6 GB. Nó giữ lại 98,2% điểm trung bình benchmark của mô hình gốc trên 14 bài kiểm tra tư duy, bao gồm lập trình, toán học, gọi công cụ và thị giác. Nếu bạn muốn mô hình suy luận đầy đủ chạy cục bộ trên laptop hoặc GPU tiêu dùng đơn lẻ, đây là nén mạnh nhất mà vẫn giữ được hiệu năng.
Nổi tiếng với
- Mô hình ngôn ngữ khoảng 6 GB cho mô hình suy luận lớp 27B, nhờ trọng số ba trị thực sự
- Giữ 98,2% điểm benchmark FP16 trung bình trên 14 bài đánh giá tư duy
- Chạy khoảng 47 token/giây trên laptop Apple M5 Max qua llama.cpp hoặc MLX
- Ngữ cảnh 262K token được giữ thực tế trên thiết bị nhờ kiến trúc hybrid-attention
- Tư duy mặc định ở mức xhigh effort; toán học, lập trình và gọi công cụ đều được benchmark
Cẩn thận với
- Cần bản fork llama.cpp tùy chỉnh với kernel ba trị; bản build chuẩn sẽ không chạy đúng.
- Tháp thị giác đi kèm dưới dạng gói Q8_0 mmproj riêng, không kèm trong GGUF chính.
- Nén ba trị là công nghệ mới; kiểm tra trang vấn đề đã biết của PrismML trước khi triển khai sản xuất.
Phù hợp nhất cho
Lời nhắc để thử
Theo dõi lỗi khó nhằn
Đây là hàm Python được cho là trả về top-k từ xuất hiện nhiều nhất trong danh sách chuỗi, nhưng đôi khi trả về ít hơn k kết quả. Đi qua logic từng bước, xác định lỗi và cho tôi phiên bản sửa với giải thích ngắn về lỗi.
```python
from collections import Counter
def top_k_words(texts, k):
words = ' '.join(texts).split()
counts = Counter(words)
return [w for w, _ in counts.most_common() if counts[w] >= k]
```
Giải câu đố logic
Năm ngôi nhà liền nhau mỗi ngôi sơn một màu khác nhau. Chủ nhà mỗi người uống một loại đồ uống khác nhau, hút một thương hiệu thuốc lá khác nhau và nuôi một loại thú cưng khác nhau. Dùng các manh mối để xác định ai nuôi cá: người Anh sống trong nhà đỏ; người Thụy Điển nuôi chó; người Đan Mạch uống trà; nhà xanh nằm ngay bên trái nhà trắng; chủ nhà xanh uống cà phê; người hút Pall Mall nuôi chim; chủ nhà vàng hút Dunhill; người ở nhà giữa uống sữa; người Na Uy sống nhà đầu tiên; người hút Blends sống cạnh chủ nuôi mèo; người nuôi ngựa sống cạnh người hút Dunhill; người hút BlueMaster uống bia; người Đức hút Prince; người Na Uy sống cạnh nhà xanh; người hút Blends ha
Lập kế hoạch tác nhân gọi công cụ
Bạn có ba công cụ: search(query) trả về đoạn trích web, calculator(expr) tính biểu thức toán, và file_write(name, content) lưu file. Người dùng hỏi: tìm dân số hiện tại của Tokyo, chia cho diện tích Tokyo km², làm tròn hai chữ số thập phân và lưu kết quả thành tokyo_density.txt. Viết ra chuỗi gọi công cụ chính xác với tham số và giải thích lý do từng bước.
So sánh với
- Claude Opus 5.5Mô hình chỉ APIngữ cảnh 1,000,000 token · Đầu vào $4.00/M, đầu ra $20.00/M
- Gemini 3.8 FlashMô hình chỉ APIngữ cảnh 1,048,576 token · Đầu vào $0.83/M, đầu ra $4.12/M
- Claude Sonnet 5.5Mô hình chỉ APIngữ cảnh 1,000,000 token · Đầu vào $2.00/M, đầu ra $10.00/M
- GPT-5.6 SolMô hình chỉ APIngữ cảnh 1,050,000 token · Đầu vào $4.00/M, đầu ra $20.00/M
Thêm mô hình văn bản từ prism-ml
Câu hỏi thường gặp
- Tôi có thể chạy Ternary Bonsai 2 27B cục bộ và trọng số có mở không?
- Có, trọng số mở và có sẵn dưới dạng file GGUF trên Hugging Face tại prism-ml/Ternary-Bonsai-2-27B-gguf. Bạn cần bản fork llama.cpp tùy chỉnh của PrismML cho kernel ba trị; bản llama.cpp chuẩn không hỗ trợ.
- Chi phí và độ dài ngữ cảnh là bao nhiêu?
- Qua API của PrismML, giá là 0,07 đô la cho mỗi triệu token đầu vào và 0,50 đô la cho mỗi triệu token đầu ra, với cửa sổ ngữ cảnh 262.144 token.
- Nén ba trị so với lượng tử hóa Q4 chuẩn thế nào?
- PrismML báo điểm trung bình 84,78 trên 14 benchmark tư duy, cao hơn nhiều so với build IQ2_XXS truyền thống 72,59, và chỉ thấp hơn 0,4 điểm so với build Q4_K_XL lớn gấp ba lần trên đĩa.
Phán quyết của thuyền trưởngTrường hợp thuyết phục nhất cho đến nay rằng bạn có thể chạy mô hình suy luận nghiêm túc trên laptop mà không mất nhiều khả năng.
Thẻ mô hình trên Hugging Face
Thuyền trưởng viết những ghi chú này dựa trên mô tả và thẻ mô hình của mô hình. Giá cả và kích thước ngữ cảnh là của nhà cung cấp tại thời điểm viết và có thể thay đổi.
Ranking badge
Updated Oct 22, 2026
Made this model? Show this badge on your page.
Paste it into your Hugging Face card or Civitai description.
Điểm số này được tính như thế nào
Mô hình này chưa có dữ liệu phổ biến từ bất kỳ nguồn nào, nên nó mang một số thay thế dưới 7,000° để giữ cho danh sách đầy đủ. Nó không bao giờ xếp trên một mô hình có dữ liệu. Phân tích chi tiết sẽ xuất hiện ở đây ngay khi có nguồn báo cáo.
Thuật ngữ: các từ dùng ở đây
- Điểm nhiệt
- Một số duy nhất cho biết mô hình được dùng và mong muốn thế nào hiện tại, từ 0° đến 9.999°. Mọi danh sách trên trang này nói về độ hot đều sắp xếp theo nó và không theo gì khác.
- Sàn điểm
- 7.000° là điểm bắt đầu cho mọi mô hình có dữ liệu thật. Thang điểm chạy từ 0° đến 9.999°; phần dưới sàn dành cho mô hình thay thế (mô hình không có dữ liệu), để mô hình có dữ liệu luôn xếp trên mô hình không có. Sàn điểm giống nhau cho tất cả và không quyết định gì; điểm trên sàn mới là thước đo.
- Tương đương lượt tải
- Tất cả những gì điểm số coi là lượt tải, cộng lại: lượt tải thật, mỗi người chia sẻ torrent tính 1.000, mỗi ảnh AI Horde và mỗi lượt chạy trên trang tạo ảnh tính một.
- Thang log
- Đếm theo chục, không phải theo đơn vị: từ 1.000 lên 10.000 lượt tải thêm cùng số điểm như từ 10.000 lên 100.000. Giúp tránh việc các mô hình lớn lấn át hết mọi thứ khác.
- Lượt thích
- Giơ ngón tay cái và lượt thích từ mọi nguồn, mỗi lượt bằng một nửa lượt tải trên thang log.
- Tỷ lệ áp dụng
- Bao nhiêu lượt tải mỗi ngày mà mô hình nhận được hiện tại, tính từ chênh lệch giữa hai lần đọc nguồn. Bằng một phần tư trọng số của lượt tải.
- Đã đo và ước tính
- Đã đo nghĩa là có hai lần đọc từ một nguồn và sự khác biệt là thật. Ước tính nghĩa là chỉ biết tổng số hôm nay và quá khứ được phân bổ trong suốt thời gian tồn tại của mô hình; trang web sẽ nói rõ đang hiển thị loại nào.
- Seeder
- Người giữ bản sao trọng số trực tuyến để người khác tải qua torrent, hoặc một bản sao lưu trữ làm điều tương tự. Mỗi người được tính là 1.000 lượt tải.
- AI Horde
- Một mạng lưới tình nguyện tạo ảnh miễn phí trên máy tính được hiến tặng. Số ảnh nó đã tạo với một mô hình được công khai, và mỗi ảnh được tính là một lượt tải.
- Trang tạo ảnh
- Các trang lưu trữ bản sao mô hình riêng và cho phép người dùng tạo ảnh, như PixAI, SeaArt và Yodayo. Lượt tải của họ được tính giống như Civitai và mỗi lần tạo ảnh được tính là một lượt tải.
- Token OpenRouter
- Mô hình văn bản phục vụ qua API, như Claude hoặc GPT, không có trọng số để tải xuống, nên sử dụng token để đo lường: các đoạn văn bản nó đọc và viết qua OpenRouter, một cổng kết nối nhiều ứng dụng sử dụng, trong 30 ngày qua. Mỗi 10,000,000 token tính là một lượt tải. Nguồn: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
- Mô hình đầy đủ (checkpoint)
- Chính là trọng số, file tự tạo ảnh. Nó được cộng thêm điểm vì các add-on phụ thuộc vào nó.
- LoRA và embedding
- Các file add-on nhỏ giúp điều chỉnh trọng số của người khác theo phong cách, nhân vật hoặc ý tưởng. Chúng không thể chạy riêng.
- Gia đình và trọng số
- Nền tảng mà mô hình xây dựng trên đó, như SD 1.5, SDXL, Flux hoặc Wan. Mỗi mô hình kế thừa ngày phát hành của trọng số gia đình nó.
- Tuổi
- Điểm trừ dựa trên thời gian trọng số gia đình được phát hành: 150° mỗi năm, tối đa 750°. Nó giữ lại lượt tải cũ đã tích tụ nhiều năm bằng cách đóng băng đầu danh sách.
- Tăng gia đình
- Một đẩy nhỏ có giới hạn cho LoRA của một gia đình mà trang này đang ưu tiên, luôn được liệt kê trong phần phân tích.
- Điểm thay thế
- Một số ổn định dưới mức tối thiểu dành cho mô hình chưa có báo cáo nguồn, để danh sách luôn đầy đủ. Nó không bao giờ xếp trên mô hình có dữ liệu.
- Mới! (giai đoạn thử nghiệm)
- Mô hình dưới 7 ngày tuổi hiển thị Mới! thay vì điểm số và không được xếp hạng. Điểm số được tính từ ngày đầu tiên, nhưng mô hình mới một ngày tăng trưởng nhanh nhất, nên nếu không chờ đợi thì #1 tuần này sẽ luôn là mô hình mới ra hôm qua thay vì mô hình giữ vững trong tuần.
- Xu hướng
- Tốc độ tăng trưởng của mô hình trong một khoảng thời gian so với tốc độ tăng trưởng trung bình của mô hình khác trong cùng khoảng thời gian. Nhanh hơn trung bình là tăng, chậm hơn là giảm.
- Mô hình điển hình
- Giữa danh mục: một nửa mô hình có số liệu tăng nhanh hơn trong khoảng thời gian, một nửa tăng chậm hơn.
Ternary Bonsai 2 27B là một mô hình văn bản thuộc họ Text / LLM được liệt kê trên ModelTrends.ai, danh mục chỉ đọc về các mô hình AI hình ảnh, video và văn bản mã nguồn mở. So sánh nó với các mô hình Text / LLM khác và xem điểm độ hot để biết xu hướng.
Thêm mô hình Text / LLMThêm Văn bản / LLM Text / LLMllmprism-mlthị giáclý luậnlập trìnhtoán họccục bộ
Duyệt theo họ mô hình
Mô hình Text / LLM
434
Mô hình Anima
528
Mô hình Chroma
19
Mô hình Fibo
2
Mô hình Flux
1,496
Mô hình Flux 2 / Klein
1,239
Mô hình Flux 3
3
Mô hình Moss
3
Mô hình Iris
1
Mô hình MiniMax H3
364
Mô hình Hunyuan
204
Mô hình Ideogram
20
Mô hình Krea2
717
Mô hình Qwen
20
Mô hình Qwen2
47
Mô hình Ltx2
153