P
Издание · проверено редакцией
PyTorch Blog
Источник AI-новостей. Материалы автоматически отбираются и адаптируются редакцией Hamidun News.
Последние публикации

LLMPyTorch Blog
IBM Spyre перевёл torch.compile с самописного sendnn на открытый Inductor
Стек PyTorch для ускорителя IBM Spyre сменил бэкенд torch.compile: вместо собственного sendnn, написанного с нуля, теперь работает backend=inductor из открытого кода PyTorch.

LLMPyTorch Blog
NVIDIA Dynamo: сессионное управление инфраструктурой для агентского вывода
NVIDIA Dynamo превращает request-aware инфраструктуру в program-aware с помощью session-level identifier. Это позволяет оптимизировать KV cache, маршрутизацию и управление нагрузкой для длительных агентских сессий с инст