Tôi có thể chạy Nemotron 70B cục bộ không?

Không. NVIDIA chưa công bố trọng số công khai, nên mô hình chỉ có thể dùng qua API và không thể tải về hay chạy trên phần cứng riêng.

Chi phí và cửa sổ ngữ cảnh là bao nhiêu?

Giá là $1.20 cho mỗi triệu token đầu vào và đầu ra, với cửa sổ ngữ cảnh 131,072 token.

Điểm khác biệt so với Llama 3.1 70B chuẩn là gì?

NVIDIA đã tinh chỉnh Llama 3.1 70B gốc tập trung vào tính hữu ích và sự phù hợp, giúp nó vượt trội hơn mô hình gốc trên các tiêu chuẩn theo dõi hướng dẫn khi ra mắt.

Llama 3.1 Nemotron 70B Instruct

4324°

#llm #nvidia #trò chuyện #viết #lý luận #ngữ cảnh dài

Chạy trên Graydient

Mở DeepInfra

Chạy mô hình này

Ưu đãi / Quảng cáo

Easy Creator (Prism) Web

Không giới hạn · phí cố định

Tốt nhất cho người mới bắt đầu. Quy trình làm việc mạnh mẽ, dễ học.

PirateDiffusion Telegram

Không giới hạn · phí cố định

Tạo video, hình ảnh, nhân vật chat tùy chỉnh và nhiều hơn nữa.

Pro studio (SpyGlass) Web

Không giới hạn · phí cố định

Duyệt mô hình, render và chỉnh sửa từ bất kỳ trình duyệt hay điện thoại nào.

Discord bot (Vector)

Không giới hạn · phí cố định

Thêm Vector vào máy chủ của bạn hoặc tham gia Discord của Vector. Tạo mọi thứ!

Unified Editor Web

Không giới hạn · phí cố định

Trình chỉnh sửa cho hình ảnh và video: render, chỉnh sửa, nâng cấp và nhiều hơn nữa trên một trang.

Ứng dụng cục bộ

Cần thiết lập

Cài đặt các chương trình local nếu máy tính của bạn có phần cứng đủ mạnh.

ModelDuel Web

Trả theo lượt dùng

Tạo cùng một lệnh trên tối đa 50 mô hình checkpoint/cơ sở cùng lúc.

Thuê GPU trên đám mây

Graydient Cloud GPU

Không giới hạn · phí cố định

Phí cố định, dùng không giới hạn. Mô hình này cài đặt chỉ với một lần nhấp.

RunPod Cloud GPU

Tính phí theo phút

Thuê GPU theo phút và tự thiết lập mô hình.

Hướng dẫn cho mô hình này

Mở weights vs mã nguồn mở vs chỉ API: bạn thực sự được phép làm gì

10 lựa chọn thay thế ChatGPT rẻ nhất năm 2026: mô hình cục bộ miễn phí, gói miễn phí và gói trả phí cố định

Tệp GGUF là gì? Giải thích về các mô hình lượng tử hóa (Q4, Q8, fp8, NF4)

Tất cả hướng dẫn

nvidia | ngữ cảnh 131,072 token | $1.20/M đầu vào, $1.20/M đầu ra. Llama-3.1-Nemotron-70B-Instruct là mô hình ngôn ngữ lớn được NVIDIA tùy chỉnh để cải thiện tính hữu ích của phản hồi LLM với truy vấn người dùng. Mô hình này đạt Arena Hard 85.0, AlpacaEval 2 LC 57.6 và GPT-4-Turbo MT-Bench 8.98, được biết là dự đoán tốt cho điểm LMSys Chatbot Arena Elo. Tính đến ngày 16 tháng 10 năm 2024, mô hình này đứng đầu cả ba chuẩn tự động về căn chỉnh (xem tab verified cho AlpacaEval 2 LC), vượt qua các mô hình tiên tiến như GPT-4o và Claude 3.5 Sonnet.

Ghi chú của thuyền trưởng

Viết bởi Captain, biên tập viên chính

Ghi chú từ 2026-10-13

Llama 3.1 Nemotron 70B là phiên bản Llama 3.1 70B của Meta được NVIDIA tinh chỉnh đặc biệt nhằm làm cho các phản hồi hữu ích hơn và phù hợp hơn với mong muốn thực tế của người dùng. Khi ra mắt, nó dẫn đầu cả ba tiêu chuẩn đánh giá tự động về sự phù hợp, vượt qua GPT-4o và Claude 3.5 Sonnet trên các chỉ số đó. Mô hình phù hợp với những ai cần một mô hình có khả năng theo dõi hướng dẫn qua API với mức phí token ổn định.

Nổi tiếng với

Dẫn đầu các tiêu chuẩn đánh giá Arena Hard, AlpacaEval 2 LC và MT-Bench về sự phù hợp khi ra mắt
Tinh chỉnh bởi NVIDIA tập trung vào tính hữu ích của phản hồi hơn là khả năng thô
Cửa sổ ngữ cảnh 128K token xử lý tài liệu dài và hội thoại mở rộng
Khả năng theo dõi hướng dẫn mạnh mẽ dựa trên nền tảng Llama 3.1 70B gốc

Cẩn thận với

Trọng số không công khai; bạn chỉ có thể sử dụng qua API, không thể triển khai cục bộ.
Chi phí $1.20 cho mỗi triệu token cả đầu vào và đầu ra, có thể tăng cao với khối lượng lớn.
Lợi thế benchmark được đo tại một thời điểm cụ thể; tình hình đã thay đổi kể từ đó.

Phù hợp nhất cho

Lời nhắc để thử

Viết lại cho rõ ràng

Đây là một đoạn trích từ tài liệu chính sách nội bộ. Viết lại sao cho một nhân viên mới không có nền tảng pháp lý có thể hiểu ngay trong một lần đọc. Giữ nguyên mọi nghĩa vụ nhưng cắt giảm thuật ngữ chuyên ngành và câu bị động. Đoạn văn: 'Tất cả nhân viên đều phải đảm bảo tuân thủ các lịch trình lưu trữ dữ liệu áp dụng theo các khung pháp lý của từng khu vực được sửa đổi định kỳ.'

Lên kế hoạch cho cuộc trò chuyện khó khăn

Tôi cần thông báo với một nhà thầu tự do lâu năm rằng chúng tôi sẽ chấm dứt hợp tác vì chất lượng công việc của họ đã giảm, không phải vì ngân sách. Họ có thể sẽ cảm thấy bị tổn thương. Hãy cho tôi một kế hoạch có cấu trúc cho cuộc trò chuyện: nói gì trước, xử lý phản đối thế nào, và kết thúc sao cho tôn trọng.

Kiểm tra sức mạnh của một lập luận

Tôi sẽ đưa ra một lập luận và muốn bạn đưa ra phản biện mạnh nhất có thể, sau đó cho tôi biết thật lòng phản biện hay lập luận gốc thuyết phục hơn và vì sao. Lập luận của tôi: làm việc từ xa làm giảm vĩnh viễn sự phát triển sự nghiệp của nhân viên mới vì mất đi sự hướng dẫn không chính thức và học hỏi thẩm thấu.

So sánh với

GPT-6 Luna
Mô hình chỉ API
ngữ cảnh 1,050,000 token · Đầu vào $0.10/M, đầu ra $0.50/M
Claude Sonnet 5.5
Mô hình chỉ API
ngữ cảnh 1,000,000 token · Đầu vào $2.00/M, đầu ra $10.00/M
Grok 4.7
Mô hình chỉ API
ngữ cảnh 500,000 token · Đầu vào $2.00/M, đầu ra $6.00/M
Claude Sonnet 4.6
Mô hình chỉ API
ngữ cảnh 1,000,000 token · Đầu vào $3.00/M, đầu ra $15.00/M

Thêm mô hình văn bản từ nvidia

Câu hỏi thường gặp

Tôi có thể chạy Nemotron 70B cục bộ không?: Không. NVIDIA chưa công bố trọng số công khai, nên mô hình chỉ có thể dùng qua API và không thể tải về hay chạy trên phần cứng riêng.
Chi phí và cửa sổ ngữ cảnh là bao nhiêu?: Giá là $1.20 cho mỗi triệu token đầu vào và đầu ra, với cửa sổ ngữ cảnh 131,072 token.
Điểm khác biệt so với Llama 3.1 70B chuẩn là gì?: NVIDIA đã tinh chỉnh Llama 3.1 70B gốc tập trung vào tính hữu ích và sự phù hợp, giúp nó vượt trội hơn mô hình gốc trên các tiêu chuẩn theo dõi hướng dẫn khi ra mắt.

Phán quyết của thuyền trưởng
Một mô hình 70B được tinh chỉnh tốt, vượt trội so với hạng cân trên các tiêu chuẩn phù hợp lúc ra mắt — rất tốt cho công việc nặng về hướng dẫn, nếu bạn chấp nhận chỉ truy cập qua API.

Thuyền trưởng viết những ghi chú này dựa trên mô tả và thẻ mô hình của mô hình. Giá cả và kích thước ngữ cảnh là của nhà cung cấp tại thời điểm viết và có thể thay đổi.

Ranking badge

Updated Oct 22, 2026

Made this model? Show this badge on your page.

Paste it into your Hugging Face card or Civitai description.

Change colors / personalize / get code

Not this creator?

Get your own badge

Điểm số này được tính như thế nào

Mô hình này chưa có dữ liệu phổ biến từ bất kỳ nguồn nào, nên nó mang một số thay thế dưới 7,000° để giữ cho danh sách đầy đủ. Nó không bao giờ xếp trên một mô hình có dữ liệu. Phân tích chi tiết sẽ xuất hiện ở đây ngay khi có nguồn báo cáo.

Thuật ngữ: các từ dùng ở đây

Điểm nhiệt: Một số duy nhất cho biết mô hình được dùng và mong muốn thế nào hiện tại, từ 0° đến 9.999°. Mọi danh sách trên trang này nói về độ hot đều sắp xếp theo nó và không theo gì khác.
Sàn điểm: 7.000° là điểm bắt đầu cho mọi mô hình có dữ liệu thật. Thang điểm chạy từ 0° đến 9.999°; phần dưới sàn dành cho mô hình thay thế (mô hình không có dữ liệu), để mô hình có dữ liệu luôn xếp trên mô hình không có. Sàn điểm giống nhau cho tất cả và không quyết định gì; điểm trên sàn mới là thước đo.
Tương đương lượt tải: Tất cả những gì điểm số coi là lượt tải, cộng lại: lượt tải thật, mỗi người chia sẻ torrent tính 1.000, mỗi ảnh AI Horde và mỗi lượt chạy trên trang tạo ảnh tính một.
Thang log: Đếm theo chục, không phải theo đơn vị: từ 1.000 lên 10.000 lượt tải thêm cùng số điểm như từ 10.000 lên 100.000. Giúp tránh việc các mô hình lớn lấn át hết mọi thứ khác.
Lượt thích: Giơ ngón tay cái và lượt thích từ mọi nguồn, mỗi lượt bằng một nửa lượt tải trên thang log.
Tỷ lệ áp dụng: Bao nhiêu lượt tải mỗi ngày mà mô hình nhận được hiện tại, tính từ chênh lệch giữa hai lần đọc nguồn. Bằng một phần tư trọng số của lượt tải.
Đã đo và ước tính: Đã đo nghĩa là có hai lần đọc từ một nguồn và sự khác biệt là thật. Ước tính nghĩa là chỉ biết tổng số hôm nay và quá khứ được phân bổ trong suốt thời gian tồn tại của mô hình; trang web sẽ nói rõ đang hiển thị loại nào.
Seeder: Người giữ bản sao trọng số trực tuyến để người khác tải qua torrent, hoặc một bản sao lưu trữ làm điều tương tự. Mỗi người được tính là 1.000 lượt tải.
AI Horde: Một mạng lưới tình nguyện tạo ảnh miễn phí trên máy tính được hiến tặng. Số ảnh nó đã tạo với một mô hình được công khai, và mỗi ảnh được tính là một lượt tải.
Trang tạo ảnh: Các trang lưu trữ bản sao mô hình riêng và cho phép người dùng tạo ảnh, như PixAI, SeaArt và Yodayo. Lượt tải của họ được tính giống như Civitai và mỗi lần tạo ảnh được tính là một lượt tải.
Token OpenRouter: Mô hình văn bản phục vụ qua API, như Claude hoặc GPT, không có trọng số để tải xuống, nên sử dụng token để đo lường: các đoạn văn bản nó đọc và viết qua OpenRouter, một cổng kết nối nhiều ứng dụng sử dụng, trong 30 ngày qua. Mỗi 10,000,000 token tính là một lượt tải. Nguồn: OpenRouter (openrouter.ai/rankings), CC BY 4.0.
Mô hình đầy đủ (checkpoint): Chính là trọng số, file tự tạo ảnh. Nó được cộng thêm điểm vì các add-on phụ thuộc vào nó.
LoRA và embedding: Các file add-on nhỏ giúp điều chỉnh trọng số của người khác theo phong cách, nhân vật hoặc ý tưởng. Chúng không thể chạy riêng.
Gia đình và trọng số: Nền tảng mà mô hình xây dựng trên đó, như SD 1.5, SDXL, Flux hoặc Wan. Mỗi mô hình kế thừa ngày phát hành của trọng số gia đình nó.
Tuổi: Điểm trừ dựa trên thời gian trọng số gia đình được phát hành: 150° mỗi năm, tối đa 750°. Nó giữ lại lượt tải cũ đã tích tụ nhiều năm bằng cách đóng băng đầu danh sách.
Tăng gia đình: Một đẩy nhỏ có giới hạn cho LoRA của một gia đình mà trang này đang ưu tiên, luôn được liệt kê trong phần phân tích.
Điểm thay thế: Một số ổn định dưới mức tối thiểu dành cho mô hình chưa có báo cáo nguồn, để danh sách luôn đầy đủ. Nó không bao giờ xếp trên mô hình có dữ liệu.
Mới! (giai đoạn thử nghiệm): Mô hình dưới 7 ngày tuổi hiển thị Mới! thay vì điểm số và không được xếp hạng. Điểm số được tính từ ngày đầu tiên, nhưng mô hình mới một ngày tăng trưởng nhanh nhất, nên nếu không chờ đợi thì #1 tuần này sẽ luôn là mô hình mới ra hôm qua thay vì mô hình giữ vững trong tuần.
Xu hướng: Tốc độ tăng trưởng của mô hình trong một khoảng thời gian so với tốc độ tăng trưởng trung bình của mô hình khác trong cùng khoảng thời gian. Nhanh hơn trung bình là tăng, chậm hơn là giảm.
Mô hình điển hình: Giữa danh mục: một nửa mô hình có số liệu tăng nhanh hơn trong khoảng thời gian, một nửa tăng chậm hơn.

Cách cài đặt

Cách Cài Đặt Ollama và Chạy AI Cục Bộ (Windows, Mac, Linux)

Mô hình tương tự

Mô hình AI để tạo hình ảnh, video & văn bản

Llama 3.1 Nemotron 70B Instruct là một mô hình văn bản thuộc họ Text / LLM được liệt kê trên ModelTrends.ai, danh mục chỉ đọc về các mô hình AI hình ảnh, video và văn bản mã nguồn mở. So sánh nó với các mô hình Text / LLM khác, xem điểm độ hot để biết xu hướng và mở trên PirateDiffusion hoặc BitVector để dùng thử.

Thêm mô hình Text / LLM Thêm Văn bản / LLM Text / LLM llm nvidia trò chuyện viết lý luận ngữ cảnh dài

Duyệt theo họ mô hình