ИнфраструктураTogether AI Blog→ оригинал

Нейросети работают в 2 раза быстрее: FlashAttention-3 от NVIDIA

Together AI представила FlashAttention-3 — новый алгоритм для ускорения трансформеров в больших языковых моделях. Работает вдвое быстрее, чем FlashAttention-2. GPU H100 загружается теперь на 75% вместо прежних 35%. Алгоритм поддерживает низкую точность вычислений FP8, при этом сохраняя точность результатов. Это позволяет LLM эффективнее обрабатывать длинные текстовые последовательности без замедления вычислений и снижает затраты.

AI-обработка оригинала Together AI Blog; редакция Hamidun News
Нейросети работают в 2 раза быстрее: FlashAttention-3 от NVIDIA
Источник: Together AI Blog. Коллаж: Hamidun News.
Слушать статью

Нейросети теперь работают в 1.5–2 раза быстрее: Together AI, NVIDIA и Meta выпустили FlashAttention-3 — алгоритм для ускорения внимания в трансформерах, который использует 75% мощности GPU вместо прежних 35%.

Почему ускорение нейросетей экономит деньги?

Облачные вычисления дорожают, а LLM требуют всё больше ресурсов. Каждый процент эффективности теперь считается в деньгах.

Сюжет
ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Единое AI-пространство · Nomad

Протестируйте новые LLM и мультимодальные модели в одном окне

Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.

Открыть Nomad AI →Автономный Nomad Agent
Что вы думаете?
Загружаем комментарии…