Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
OpenMOSS выпустила MOSS-Audio — открытую аудиомодель, опережающую более крупные аналоги
OpenMOSS представила MOSS-Audio — открытую модель, которая в одной архитектуре понимает речь, музыку и звуки среды, а на общих аудиобенчмарках обходит open-source…
OpenAI готовит AI-смартфон: чипы создадут MediaTek и Qualcomm, сборку получит Luxshare
OpenAI начала проработку собственного AI-смартфона: за мобильный чип отвечают MediaTek и Qualcomm, сборку доверят Luxshare, а запуск массового производства намечен…
Дефицит Mac mini от Apple поднял цены на eBay на фоне спроса на локальный ИИ
Продажи Mac mini у Apple уперлись в дефицит, а на eBay появились лоты с наценкой: компактный компьютер неожиданно стал удобной машиной для локального запуска…
Google выпустила офлайн-приложение для диктовки на iOS с поддержкой Gemma
Google незаметно запустила ИИ-диктовку для iOS, которая работает без интернета
ИИ-агенты теперь пишут GPU-код: RightNow AI выпустила фреймворк AutoKernel
Магия квантизации: как запускать гигантские нейросети на обычном ноутбуке
Google представила алгоритм TurboQuant: память ИИ-моделей сокращена в шесть раз
Исследователи Google Research совершили прорыв в оптимизации больших языковых моделей. Новый алгоритм TurboQuant радикально сжимает KV-кеш, ускоряя работу ИИ в 8…
Как запустить сверхэффективные 1-битные нейросети локально: гид по BitNet
Разбираемся, как развернуть архитектуру BitNet b1.58 на своем ПК. Рассказываем об установке bitnet.cpp и преимуществах работы с 1-битными моделями в домашних…
Своя LLM в облаке: как уложиться в 16 ГБ видеопамяти
AI-ревью кода без облака: как Ollama меняет подход к локальной разработке
Gemini 3.1 Flash-Lite: Google делает ставку на дешёвый и быстрый ИИ
Decima-8: архитектура, которая хочет переизобрести нейроморфные чипы
Пионер генерации изображений замахнулся на революцию в текстовом AI
Стефано Эрмон, чьи разработки легли в основу генерации изображений и видео, представил стартап Inception с технологией ускорения текстовых AI-моделей. Это может…
llm-checker: утилита покажет, какие LLM потянет ваше железо
Новый CLI-инструмент сканирует GPU, RAM и процессор вашего компьютера, а затем честно говорит, какие из 35+ языковых моделей вы сможете запустить локально через…