Стэнфорд разбирает сетчатку как интерпретируемую нейросеть в курсе EE292R

Stanford Online выложил на YouTube лекцию Стивена Баккуса, профессора нейробиологии Стэнфордского университета. Она прочитана в рамках курса EE292R «AI and Data for Science» осенью 2026 года. Заявленная тема — механистически интерпретируемые модели вычислений в ранней зрительной системе. Речь о сетчатке: в ней порядка 100 млн фоторецепторов, а информация уходит в мозг по примерно миллиону волокон зрительного нерва. Получается жёсткое сжатие, и вопрос о том, как именно оно устроено, остаётся хорошей задачей для интерпретируемости.

Что известно о лекции

В описании ролика мало конкретики. Там указаны спикер, название курса, ссылка на расписание осени 2026 и хэштеги #ComputationalNeuroscience, #MechanisticInterpretability и #Neuroscience. Результатов, датасетов и метрик нет. Всё, что выходит за рамки этого списка, ниже помечено как контекст из ранее опубликованных работ, а не как пересказ лекции.

Сам курс позиционируется как мост между ИИ и научными данными. Для инженеров по машинному обучению это редкий формат: биологическая система служит не источником метафор, а полигоном, где можно проверять методы интерпретации.

Почему сетчатка подходит для механистической интерпретируемости

У сетчатки есть три свойства, которых нет у большинства больших моделей.

Во-первых, вход известен полностью. Это изображение, которое экспериментатор сам показывает ткани. Во-вторых, выход можно записать: электрофизиологи снимают активность ганглиозных клеток. В-третьих, промежуточные слои, фоторецепторы, биполярные и амакриновые клетки, изучены давно, и по ним есть независимые данные.

Так получается редкая ситуация: у модели можно сравнить не только предсказания на выходе, но и внутренние узлы с реальными нейронами. В интерпретируемости LLM такой «эталонной разметки» внутренних состояний обычно нет.

Контекст: что уже делала лаборатория Баккуса

Группа Баккуса, в том числе в сотрудничестве с Сурьей Гангули, ранее публиковала работы по сверточным нейросетям как моделям сетчатки. В статье 2016 года на NIPS такие модели предсказывали ответы ганглиозных клеток на естественные сцены точнее, чем классические линейно-нелинейные модели. В более поздней работе, опубликованной в Neuron, исследователи разбирали внутреннее устройство обученных сетей и сопоставляли их компоненты с клетками сетчатки. Лекция, судя по заявленной теме, продолжает эту линию, но подтверждать это можно только после просмотра.

Ключевые параметры задачи:

• вход: естественные сцены и контролируемые зрительные стимулы;
• выход: ответы ганглиозных клеток, примерно 1 млн на сетчатку человека;
• сжатие: от порядка 100 млн фоторецепторов к одному выходному каналу;
• метод: механистическая интерпретируемость, то есть поиск конкретных вычислительных элементов внутри модели;
• проверка: сопоставление внутренних юнитов с записями реальных нейронов.

Как использовать материал на практике

Если вы работаете с интерпретируемостью моделей, лекцию стоит смотреть с конкретным вопросом: как авторы доказывают, что найденный в модели механизм соответствует биологическому, а не просто совпадает по статистике. Этот критерий переносится на любые задачи, где у вас есть данные о внутренних состояниях системы.

Если вы строите модели для научных данных, обратите внимание на выбор архитектуры. Для сетчатки важно, чтобы слои сети соответствовали анатомии, иначе сравнение с нейронами теряет смысл.

И последнее. Прежде чем цитировать лекцию или строить на ней выводы, проверьте её содержание по самому видео и расписанию курса. Анонс не содержит ни одной цифры результата.