ВсёLLMРобототехникаСтартапыИсследованияЭтика ИИБизнесЖелезоАвтономные системыМедицинаКреатив
Тема-хаб

Локальные LLM

Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.

Официальный сайт ↗332 материалов
В глоссарии:Локальный ИИ (on-device)КвантизацияМодель с открытыми весамиВидеопамять (VRAM)
Ollama ускорила локальное ИИ на Mac с Apple M5: запускай нейросеть без облака
Железо·3DNews AI

Ollama ускорила локальное ИИ на Mac с Apple M5: запускай нейросеть без облака

2 мая 2026 г.·3 мин
Gemma 4: нейросеть от Google для локального запуска (бесплатно)
Креатив

Gemma 4: нейросеть от Google для локального запуска (бесплатно)

2 мая 2026 г.·3 мин
Как запустить локальную LLM в Docker для AI-агентов
LLM

Как запустить локальную LLM в Docker для AI-агентов

2 мая 2026 г.·2 мин
Запуск больших нейросетей локально: сжатие памяти в 14 раз
LLM

Запуск больших нейросетей локально: сжатие памяти в 14 раз

2 мая 2026 г.·3 мин
Как собрать свой AI-ассистента на OpenClaw: 5 проектов
LLM·KDnuggets

Как собрать свой AI-ассистента на OpenClaw: 5 проектов

Подборка из пяти проектов показывает, как превратить OpenClaw из чат-бота в персонального ассистента: подключить мессенджеры, локальные модели, Google Workspace…

2 мая 2026 г.·3 мин
Как ИИ помогает писать unit-тесты: кейс Wildberries
Автономные системы·Habr AI

Как ИИ помогает писать unit-тесты: кейс Wildberries

Тимлид мобильной команды Wildberries рассказал, как после двух месяцев настройки OpenCode, RAG и сабагентов локальная модель начала генерировать рабочие unit-тесты…

2 мая 2026 г.·3 мин
Habr AI назвал шесть локальных нейросетей 2026 года для автономной работы без интернета
Автономные системы·Habr AI

Habr AI назвал шесть локальных нейросетей 2026 года для автономной работы без интернета

Habr AI выпустил обзор шести локальных нейросетей, которые после установки могут работать офлайн и дают пользователю запасной AI-инструмент на случай сбоев связи…

2 мая 2026 г.·3 мин
Мультимодальные нейросети для видео: тренды WACV 2026
Креатив·Habr AI

Мультимодальные нейросети для видео: тренды WACV 2026

Репортаж с WACV 2026 в Тусоне зафиксировал главные сдвиги в Computer Vision: мультимодальные модели, синтетические данные, более экономные вычисления и сильные…

2 мая 2026 г.·3 мин
Топ темы
01Google и Gemma 4: как запускать tool calling локально через Python и Ollama2 мая 2026 г.·2 мин02KDnuggets показал, как запустить Qwen3.5 на старом ноутбуке через Ollama и OpenCode2 мая 2026 г.·3 мин03ВТБ объяснил, почему ИИ-пилоты застревают до продакшена и как это чинить архитектурой2 мая 2026 г.·3 мин04Overworld выпустила Waypoint-1.5: интерактивные миры 720p для обычных видеокарт2 мая 2026 г.·3 мин05OpenAI, Qwen и GigaChat: почему российскому бизнесу всё труднее выбирать ИИ-модели2 мая 2026 г.·2 мин
SimpleOne: ИИ в ITSM стал корпоративным стандартом для поддержки и service desk
Медицина·Habr AI

SimpleOne: ИИ в ITSM стал корпоративным стандартом для поддержки и service desk

2 мая 2026 г.·3 мин
Tesla получила первое в Европе разрешение на FSD Supervised — старт из Нидерландов
Автономные системы·TNW

Tesla получила первое в Европе разрешение на FSD Supervised — старт из Нидерландов

2 мая 2026 г.·2 мин
Google Gemma 4 заставила компании пересматривать контроль AI на локальных устройствах
Медицина·AI News

Google Gemma 4 заставила компании пересматривать контроль AI на локальных устройствах

2 мая 2026 г.·3 мин
OpenGrall показал режим «Инженера»: робот сам пишет драйверы и настраивает модули
Робототехника·Habr AI

OpenGrall показал режим «Инженера»: робот сам пишет драйверы и настраивает модули

2 мая 2026 г.·3 мин
Google случайно показала в Play Маркете ИИ-помощника COSMO и быстро скрыла приложение
Креатив·3DNews AI

Google случайно показала в Play Маркете ИИ-помощника COSMO и быстро скрыла приложение

Google ненадолго открыла в Play Маркете страницу COSMO — экспериментального ИИ-помощника для Android с локальным Gemini Nano, агентными функциями и гибридным…

2 мая 2026 г.·3 мин
Путин поручил госплан по ИИ, а российский бизнес закрывает 90% пилотов
Медицина·Habr AI

Путин поручил госплан по ИИ, а российский бизнес закрывает 90% пилотов

Россия одновременно ужесточает курс на ИИ: власти готовят национальный план и правила для нейросетей, регионы масштабируют медсервисы, а 90% корпоративных пилотов…

2 мая 2026 г.·3 мин
OpenCode, Ollama и Qwen3-Coder: как запустить локального ИИ-кодера без облака и лимитов
Бизнес·KDnuggets

OpenCode, Ollama и Qwen3-Coder: как запустить локального ИИ-кодера без облака и лимитов

Связка OpenCode, Ollama и Qwen3-Coder позволяет развернуть локального ИИ-помощника для программирования прямо на своём компьютере — бесплатно, офлайн и без лимитов на запросы.

2 мая 2026 г.·3 мин
Рег.облако: генеративный ИИ вошел в фазу интернета 1997 года, и окно для входа сужается
Бизнес·Habr AI

Рег.облако: генеративный ИИ вошел в фазу интернета 1997 года, и окно для входа сужается

2 мая 2026 г.·3 мин
KDnuggets опубликовал гайд по локальному анализу звонков с Whisper, BERTopic и Streamlit
Бизнес·KDnuggets

KDnuggets опубликовал гайд по локальному анализу звонков с Whisper, BERTopic и Streamlit

2 мая 2026 г.·2 мин
Open WebUI и llama.cpp: как настроить локальный веб-поиск с Qwen и Docker на Windows
LLM·Habr AI

Open WebUI и llama.cpp: как настроить локальный веб-поиск с Qwen и Docker на Windows

1 мая 2026 г.·3 мин
NVIDIA показала, как Gemma 4 с голосом и веб-камерой работает на Jetson Orin Nano Super
Железо·Hugging Face Blog

NVIDIA показала, как Gemma 4 с голосом и веб-камерой работает на Jetson Orin Nano Super

1 мая 2026 г.·3 мин
Apple недооценила спрос на Mac для ИИ: Mac mini, Studio и Neo уходят в дефицит
Автономные системы·TechCrunch

Apple недооценила спрос на Mac для ИИ: Mac mini, Studio и Neo уходят в дефицит

1 мая 2026 г.·3 мин
Habr AI показал, как готовить структурированный вход для AI-агента вместо сырого ТЗ
Автономные системы

Habr AI показал, как готовить структурированный вход для AI-агента вместо сырого ТЗ

30 апр. 2026 г.·3 мин
Wonderful привлекла $150 млн на AI-агентов поддержки и вышла на оценку в $2 млрд
Автономные системы

Wonderful привлекла $150 млн на AI-агентов поддержки и вышла на оценку в $2 млрд

30 апр. 2026 г.·2 мин
Whisper и Gemma 3 связали контрастивным обучением для дешёвого голосового ввода в LLM
LLM

Whisper и Gemma 3 связали контрастивным обучением для дешёвого голосового ввода в LLM

30 апр. 2026 г.·3 мин
Стэнфорд представил OpenJarvis — стек локальных AI-агентов с памятью и обучением
Автономные системы·MarkTechPost

Стэнфорд представил OpenJarvis — стек локальных AI-агентов с памятью и обучением

Стэнфорд представил OpenJarvis — платформу для персональных AI-агентов, которые работают прямо на устройстве, используют память и инструменты и учатся на локальных…

30 апр. 2026 г.·3 мин
Open-source-стек из 6 моделей и 9 агентов показал, как собрать ИИ-команду на одном сервере
Железо·Habr AI

Open-source-стек из 6 моделей и 9 агентов показал, как собрать ИИ-команду на одном сервере

Шесть open-source-моделей и девять агентов на одном GPU-сервере образуют автономную AI-команду, которая сама проектирует, пишет, тестирует и деплоит новых агентов.

30 апр. 2026 г.·3 мин