Локальные LLM
Локальные LLM — это языковые модели, которые работают прямо на вашем железе: ноутбуке, ПК с видеокартой или домашнем сервере — без облака, подписок и передачи данных наружу. Ollama, llama.cpp и LM Studio плюс квантованные GGUF-версии Llama, Qwen и Gemma делают это доступным даже на видеокарте десятилетней давности. Здесь — все наши материалы о локальном запуске ИИ: гайды, тесты железа, квантизация и приватность.
Open-source редактор Wunjo Make научили писать плагины через Claude Code, Codex и Cursor
В репозиторий видеоредактора Wunjo Make добавили сборщик и навыки для облачных LLM: плагины с локальными нейросетями и API можно писать через три ИИ-агента и вести…
CARing учит LLM предсказывать диагнозы: R@30 достиг 46,52% на MIMIC-IV
Авторы CARing кодируют диагнозы через Semantic IDs и награждают модель за охват разных диагнозов. На MIMIC-III и MIMIC-IV R@30 в режиме рассуждений — 46,04% и…
Phase-HDC обучает модель без истории оптимизатора и хранит в 16–23 раза меньше Adam
Метод Phase-HDC заменяет моменты Adam порогом на текущий градиент и хранит в 16–23 раза меньше float32 Adam. Цена вопроса — около пяти пунктов точности в среднем.
Cognition выпустила SWE-2: 50% на FrontierCode при цене ниже на 64%
Как стать AI-архитектором в 2026: дорожная карта от инженера к проектировщику систем
Локальный RAG на FastAPI и Ollama: от простого вызова LLM к production backend
IEEE запустил онлайн-программу по большим языковым моделям для инженеров
Habr рассказал, как собрать домашний ИИ-сервер дешевле 400 тысяч рублей
Энтузиасты на Habr разобрали, какое железо нужно для запуска нейросетей дома и как собрать полноценный AI-сервер примерно втрое дешевле готового решения.
MacPaw и Liquid AI запустят локальный ИИ-инференс для разработчиков Setapp
MacPaw строит локальную версию ИИ-ассистента Eney на моделях Liquid AI — разработчики Setapp получат on-device ИИ без облака и токенных платежей.
Selectel тестирует Mac mini M4 Pro как локальный LLM-сервер для OpenClaw
BitNet b1.58: как тернарное квантование позволяет запустить 27B-модель без GPU
Windows 11 стала тяжелее из-за ИИ: как Copilot раздувает установочный образ
Nvidia и Mistral просят США не вводить широкие ограничения на open-weight модели
Как Яндекс профилирует память миллионов колонок с Алисой: борьба за 256 МБ
Команда Яндекса собрала инструмент семплирующего профилирования памяти и ежедневно снимает дампы с миллионов умных колонок с Алисой, где у младших моделей всего 256…
Apple Foundation Models SDK for Python: локальная Apple Intelligence в агенте Hermes
Инженеры Сбера подключили локальную модель Apple Intelligence к Python-агенту Hermes через Foundation Models SDK: 2,8 секунды на ответ и 46 из 50 на бенчмарке.