Коллапс модели

Коллапс модели (model collapse) — явление, при котором генеративная модель, обученная на контенте, созданном предыдущими поколениями аналогичных моделей, постепенно теряет информацию о редких, но реальных распределениях данных. Математически это эквивалентно сужению поддержки распределения: хвосты обрезаются на каждой итерации переобучения, а статистические ошибки накапливаются.

Механизм детально описан в статье Shumailov et al. «AI models collapse when trained on recursively generated data», опубликованной в Nature в 2024 году (препринт — 2023). Авторы показали, что в цикле «обучить модель → сгенерировать данные → обучить следующую модель на этих данных» происходят два связанных процесса: ранние смещения (bias) усиливаются, а дисперсия обучающего корпуса сокращается. В итоге модель утрачивает способность воспроизводить нечастые, но значимые паттерны — редкие слова, нетипичные факты, специализированную терминологию — и начинает выдавать однообразные усреднённые ответы.

Актуальность проблемы определяется структурой современного интернета: с 2022–2023 годов генеративные модели создают значительную долю публикуемых текстов и изображений, поэтому следующие поколения моделей неизбежно обучаются на смешанных корпусах с непрерывно растущей долей синтетики. Это создаёт петлю обратной связи, способную со временем привести к гомогенизации выходов целого поколения систем.

По состоянию на 2026 год задача не имеет окончательного решения. Исследовательские группы OpenAI, Anthropic, Google DeepMind и крупные академические лаборатории разрабатывают подходы к её смягчению: явная маркировка синтетического контента по стандарту C2PA, использование верифицированных «золотых» человеческих наборов данных в качестве якорей при обучении, а также методы data provenance — криптографического отслеживания происхождения обучающих примеров.

Пример

“Если языковую модель несколько раз переобучить на текстах, на 80% сгенерированных предыдущей версией той же модели, она начнёт отвечать на профессиональные медицинские вопросы одними и теми же шаблонными фразами, утратив нюансы, характерные для реальных клинических записей.