Как избежать утечки данных в машинном обучении: Target Encoding
Target encoding кажется простым способом обработать категориальные признаки — но наивная реализация незаметно «сливает» таргет в обучающую выборку. Метрики на валидации выглядят отлично, а модель в проде не работает. Статья объясняет, где именно возникает leakage, и показывает правильные реализации через Leave-One-Out и K-Fold — чтобы получить честный результат, а не красивые цифры на дашборде.
AI-обработка оригинала Habr AI; редакция Hamidun News
Target encoding — метод машинного обучения для кодирования категориальных признаков, но его наивная реализация систематически вызывает утечку данных и завышает метрики модели на тестах, которая разваливается на проде.
Что такое target encoding в машинном обучении?
Target encoding заменяет каждое уникальное значение категориального признака средним значением целевой переменной по этой категории. Например, каждому городу присваивается среднее значение продаж по клиентам из этого города.
Соберите рабочего ИИ-агента или сервис своими руками без ручного кода
В Академии Жемала Хамидуна (academy.hamidun.com) открыт бесплатный 72-часовой тест-драйв: интерактивные скетч-уроки по Claude Code и Cursor, живой Tech Radar и готовые шаблоны агентов.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.