Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
NVIDIA TensorRT превращает FP8-чекпоинты в движки для быстрого инференса
NVIDIA объяснила, как конвертировать FP8-квантизованный чекпоинт в TensorRT-движок — шаг, который превращает оптимизированную модель в реальный продакшн-инструмент.
Как собрать AI-агента в Google Colab без фреймворков: туториал с памятью и MCP
Пошаговый туториал по созданию лёгкого AI-агента в Google Colab — с регистрацией инструментов, сессионной памятью, скиллами и MCP-сервером без внешних фреймворков.
DeepSeek выпустила DSpark — фреймворк, ускоряющий генерацию на DeepSeek-V4 на 57–85%
DeepSeek открыла исходный код DSpark — фреймворка спекулятивного декодирования для DeepSeek-V4, который ускоряет генерацию на 57–85% без потери качества.
Минцифры внесла в реестр российского ПО первый ИИ-ассистент для чиновников
Сравнение TTS-моделей 2026: от коммерческих до открытых
Ollama вместо ChatGPT: экономим деньги, приватность и планету
Новый CompileIQ NVIDIA находит скрытый потенциал GPU-ядер через подбор параметров компилятора
EAGLE 3.1: как исправить нестабильность спекулятивного декодирования в LLM
Совместный релиз EAGLE team, vLLM и TorchSpec исправляет критическую проблему спекулятивного декодирования — дрейф внимания, который замедлял инференс больших…
Локальная нейросеть: как настроить параметры в Ollama
Ollama позволяет запускать языковые модели локально и тонко подстраивать их поведение через температуру, контекст и другие параметры.
Нейросеть Cohere Command A+: 218 млрд параметров для агентов
Как исследователи обошли защиту в ИИ-моделях: просто и опасно
Turbovec: векторный индекс на Rust с алгоритмом TurboQuant от Google Research
Локальная Qwen3.6-27B vs облачные модели: почему приватность — не главное
Claude блокирует российские IP: как не потерять AI-проект
Сотни пользователей Claude потеряли аккаунты из-за блокировки российских IP. Даже VPN не помогал. Разбираемся, как защитить свой AI-проект от внезапного вырубания.
Как Claude Code и ChatGPT втягивают в дорогие тарифы: выход через мультиагенты
Создатели AI-инструментов используют классическую стратегию: сначала дешевая подписка, потом резкое подорожание. Вот как пользователи выбирают альтернативу из…