Локальная нейросеть для текста: запустить Nemotron дома на ПК
Nemotron-Cascade-2-30B-AWQ удалось локально запустить в домашнем сетапе с GeForce RTX 3090 и получить 120–150 токенов в секунду, а с учётом размышлений — до 210+. В тестах модель уверенно справилась с задачами по физике, биологии и Python, а также с веб-агентами. Главной тонкостью оказался не предел по железу, а правильная обработка reasoning-блоков через vLLM.
AI-обработка оригинала Habr AI; редакция Hamidun News
Оказалось, 30-миллиардную нейросеть Nemotron-Cascade-2 можно запустить дома на GeForce RTX 3090 и использовать как локальный ИИ для работы с текстом, кодингом и анализом данных со скоростью 120–150 токенов/с.
Какая нейросеть работает локально на RTX 3090?
Nemotron-Cascade-2 — локальная нейросеть, которая на GeForce RTX 3090 выдает 120–150 токенов в секунду и справляется с кодингом, физикой, биологией и веб-агентами.
Какую нейросеть можно запустить на видеокарте RTX 3090 дома?
Nemotron-Cascade-2 (30 млрд параметров) работает локально на RTX 3090 со скоростью 120–150 токенов в секунду с устойчивым контекстом, обеспечивая логику, достаточную для кодинга и аналитических задач.
Для чего использовать локальную нейросеть на видеокарте вместо
облачных сервисов? Локальное запуск обеспечивает высокую скорость ответа (150 токенов/сек на RTX 3090), длинный контекст и полный контроль над моделью для ежедневной работы без облачной задержки.
Можно ли запустить Nemotron на домашнем ПК?
Да, 30-миллиардную нейросеть Nemotron-Cascade-2 можно использовать на домашнем ПК с GeForce RTX 3090 со скоростью 120–150 токенов/с.
Для каких задач подходит локальная нейросеть Nemotron?
Nemotron справляется с кодингом, задачами на физику и биологию, а также работой веб-агентов без облака.
- 28 окт. 2026 г.SLICE-Mem: память LLM-агентов без генерации режет расход токенов на 92–99%
- 26 окт. 2026 г.Getty Images готовит банкротство: акции рухнули на 68%, владельцы вложат $533 млн
- 23 окт. 2026 г.Stanford и Together AI научили LLM писать текст с плана: генерация быстрее до 31 раза
- 22 окт. 2026 г.StopLoss прерывает обречённые запуски кодинг-агентов и экономит до 48% затрат
Вопросы и ответы по материалу
Какая нейросеть работает локально на RTX 3090?
Nemotron-Cascade-2 — локальная нейросеть, которая на GeForce RTX 3090 выдает 120–150 токенов в секунду и справляется с кодингом, физикой, биологией и веб-агентами.
Какую нейросеть можно запустить на видеокарте RTX 3090 дома?
Nemotron-Cascade-2 (30 млрд параметров) работает локально на RTX 3090 со скоростью 120–150 токенов в секунду с устойчивым контекстом, обеспечивая логику, достаточную для кодинга и аналитических задач.
Для чего использовать локальную нейросеть на видеокарте вместо облачных сервисов?
Локальное запуск обеспечивает высокую скорость ответа (150 токенов/сек на RTX 3090), длинный контекст и полный контроль над моделью для ежедневной работы без облачной задержки.
Можно ли запустить Nemotron на домашнем ПК?
Да, 30-миллиардную нейросеть Nemotron-Cascade-2 можно использовать на домашнем ПК с GeForce RTX 3090 со скоростью 120–150 токенов/с.
От чтения про ИИ-агентов — к запуску своего агента за вечер
Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.