Tencent Hunyuan и Фудань запустили ExplorationBench для оценки исследования у LLM

Tencent Hunyuan опубликовала в X анонс ExplorationBench, бенчмарка для оценки способности ИИ-систем к «исследованию». Следом тему разобрал официальный аккаунт Tencent AI. Над проектом работала команда Фуданьского университета, которая ранее выпустила CL-bench. В доступном анонсе нет таблиц с результатами моделей и деталей методики, так что сравнивать системы пока рано. Но выбор объекта измерения показателен: индустрия переходит от проверки знаний к проверке поведения агентов в неопределённых условиях. • ExplorationBench измеряет исследование, а не точность ответа. • Авторы: Фудань и Tencent Hunyuan, то же сочетание, что и у CL-bench. • Результаты моделей и методика пока не раскрыты.

AI-обработка оригинала Jiqizhixin (机器之心); редакция Hamidun News
Tencent Hunyuan и Фудань запустили ExplorationBench для оценки исследования у LLM
Источник: Jiqizhixin (机器之心). Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникJiqizhixin (机器之心) ↗
Главный редактор
Ключевой факт #1ExplorationBench измеряет исследование, а не точность ответа.
АвторыФудань и Tencent Hunyuan, то же сочетание, что и у CL-bench.
НазваниеExplorationBench.

Tencent Hunyuan и исследователи Фуданьского университета представили ExplorationBench, оценочный набор для способности ИИ-систем «исследовать». Анонс вышел на официальном аккаунте @TencentHunyuan в X, затем его продублировал и разобрал @TencentAI_News. Авторы тянутся к одной из самых плохо измеримых характеристик агентов: умению действовать, когда правильный путь заранее неизвестен. Числовых результатов моделей в первичном материале, который лежит на нашем столе, нет, и мы не будем их выдумывать.

Что известно на сегодня

Фактов немного, но они ясные. Бенчмарк называется ExplorationBench. Его цель сформулирована как измерение того, как ИИ-система «исследует». Работу делает команда из Фудани, которая раньше уже выпускала CL-bench, при участии Tencent Hunyuan. Для Tencent это второй совместный оценочный проект с университетским партнёром, то есть сложившаяся схема, а не разовая акция.

Ключевые параметры анонса:

  • Название: ExplorationBench.
  • Объект измерения: исследовательское поведение ИИ-систем, не точность ответа на фиксированный вопрос.
  • Авторы: команда Фуданьского университета и Tencent Hunyuan.
  • Предшественник: CL-bench от той же группы из Фудани.
  • Каналы публикации: X-аккаунты Tencent Hunyuan и Tencent AI.
  • Не раскрыто в доступном тексте: число задач, формат сред, метрики, список протестированных моделей, лицензия и ссылка на код.

Почему исследование стало узким местом

Большинство популярных тестов проверяют итог: верный ответ, пройденные юнит-тесты, решённая задача. Агентные сценарии устроены иначе. Агент попадает в среду с неполной информацией, должен решить, что проверить, куда сходить и когда остановиться. Классическая дилемма exploration и exploitation давно знакома из обучения с подкреплением, но у LLM-агентов она проявляется по-новому. Модель может уверенно эксплуатировать первую удачную гипотезу и не заметить лучшую. Или бесконечно собирать информацию и не дойти до действия.

Итоговая метрика успеха плохо различает эти провалы. Два агента получают одинаковую оценку, хотя один нашёл решение систематически, а второй наугад. Отдельный бенчмарк на исследование нужен, чтобы увидеть сам процесс: полноту обхода, повторные действия, реакцию на новую информацию.

Как использовать это сейчас

Команде, которая строит агентов, полезно уже сегодня добавить в собственную оценку процессные метрики: число повторных действий, долю уникальных состояний, момент первого обращения к нужному источнику. Когда ExplorationBench выйдет с кодом, эти данные удобно будет сопоставить с его результатами. При выборе модели под агентный продукт стоит дождаться опубликованных таблиц и смотреть не на единый средний балл, а на разбивку по типам сред. Читая будущий отчёт, проверяйте три вещи: есть ли в нём независимые прогоны моделей конкурентов, указан ли разброс между запусками и опубликованы ли траектории агентов. Без этого любой рейтинг останется рекламой, а не измерением.

Вопросы и ответы по материалу

Что известно по теме: что известно на сегодня?

Фактов немного, но они ясные. Бенчмарк называется ExplorationBench. Его цель сформулирована как измерение того, как ИИ-система «исследует». Работу делает команда из Фудани, которая раньше уже выпускала CL-bench, при участии Tencent Hunyuan. Для Tencent это второй совместный оценочный проект с университетским партнёром, то есть сложившаяся схема, а не разовая акция. Ключевые параметры анонса: Название: ExplorationBench. Объект измерения: исследовательское поведение ИИ-систем, не точность ответа на фиксированный вопрос. Авторы: команда Фуданьского университета и Tencent Hunyu

Что известно по теме: почему исследование стало узким местом?

Большинство популярных тестов проверяют итог: верный ответ, пройденные юнит-тесты, решённая задача. Агентные сценарии устроены иначе. Агент попадает в среду с неполной информацией, должен решить, что проверить, куда сходить и когда остановиться. Классическая дилемма exploration и exploitation давно знакома из обучения с подкреплением, но у LLM-агентов она проявляется по-новому. Модель может уверенно эксплуатировать первую удачную гипотезу и не заметить лучшую. Или бесконечно собирать информацию и не дойти до действия. Итоговая метрика успеха плохо различает эти провалы. Два

Что известно по теме: как использовать это сейчас?

Команде, которая строит агентов, полезно уже сегодня добавить в собственную оценку процессные метрики: число повторных действий, долю уникальных состояний, момент первого обращения к нужному источнику. Когда ExplorationBench выйдет с кодом, эти данные удобно будет сопоставить с его результатами. При выборе модели под агентный продукт стоит дождаться опубликованных таблиц и смотреть не на единый средний балл, а на разбивку по типам сред. Читая будущий отчёт, проверяйте три вещи: есть ли в нём независимые прогоны моделей конкурентов, указан ли разброс между запусками и опубли

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ ИИ-агенты на практике · Академия & Nomad

От чтения про ИИ-агентов — к запуску своего агента за вечер

Пошаговая сборка автономных агентов и MCP-связок в Hamidun Academy (academy.hamidun.com) (72 часа бесплатно) или мгновенный запуск готовых мультишаговых агентов в облаке Nomad.

Попробовать Академию (72ч бесплатно) →Запустить Nomad Agent
Что вы думаете?
Загружаем комментарии…