Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
Глава Proton: приватность в эпоху ИИ возможна, но автономные агенты несут новый риск
Гендиректор Proton Энди Йен уверен, что приватность в эпоху ИИ можно сохранить через локальные модели и шифрование, но самым опасным сценарием он считает автономных…
Canonical встроит локальные ИИ-инструменты в Ubuntu 26.10 с отключением в один клик
Canonical добавит в Ubuntu 26.10 локальные ИИ-инструменты на базе LLM: они будут опциональными, полностью удаляемыми и по умолчанию не станут отправлять данные в…
Poolside выпустила Laguna XS.2 и M.1 — открытые модели для агентного программирования
Poolside показала две модели Laguna для агентного кодинга: открытая XS.2 запускается локально, а более мощная M.1 рассчитана на длинные задачи с правками кода…
ruGPT3XL получил контекст 8k: восстановленная модель почти без потерь вышла за предел 2k
М2 передала нейросети 40% маркетинговых текстов и не потеряла качество контента
Habr AI показал, как добавить память и контекст в LLM-чат на Python с Ollama и LiteLLM
Google Gemma 4, NVIDIA и OpenClaw: локальные AI-агенты без оплаты за каждый токен
NVIDIA показала полный пайплайн оптимизации модели с FastNAS pruning и fine-tuning
NVIDIA выпустила практический гайд по Model Optimizer: в одном Colab-ноутбуке показаны обучение ResNet20, FastNAS pruning под лимит FLOPs и восстановление качества…
Qwen и llama.cpp: как запустить локальную нейросеть без облака на компьютере или сервере
Практический материал объясняет, как запустить модель Qwen через llama.cpp на своём компьютере или сервере, чтобы работать с локальной нейросетью без облаков…
Как автор Habr превратил семь сценариев n8n в автономную AI-новостную систему
OpenGrall представил архитектуру для роботов с ИИ, где языковая модель отвечает за стратегию
MarkTechPost разобрал полный цикл обучения больших языковых моделей: от данных до деплоя
Positive Technologies перечислила лучшие бенчмарки для оценки LLM в кибербезопасности
Qwen 3.5 на MacBook Pro: сравнение восьми локальных серверов для командной работы
Автор протестировал восемь MLX-серверов на MacBook Pro M2 Max с Qwen 3.5 35B и показал, что при параллельных запросах почти все решения резко теряют скорость.
Habr AI выпустил гид по ChatGPT, Claude и mcp для тех, кто только входит в тему
Habr AI объяснил без лишней теории, чем отличаются локальные и облачные модели, зачем платить за подписки, как работают агенты и почему mcp уже становится…