Что такое обучение с учителем?
Обучение с учителем — это подход в машинном обучении, при котором модель учится на парах «вход и правильный ответ»: каждому примеру заранее присвоена метка, и алгоритм ищет закономерность, связывающую вход с этим ответом. Термин пришёл из аналогии с учеником, которому показывают решённые задачи, прежде чем он начнёт решать новые самостоятельно.
Название прижилось ещё в статистике середины XX века и с тех пор остаётся базовым термином всего машинного обучения: большинство прикладных систем ИИ — от спам-фильтров до распознавания лиц — обучены именно так. Обучение с учителем противопоставляют обучению без учителя, где меток нет вовсе, и обучению с подкреплением, где модель получает не готовый ответ, а награду за удачное действие, — разберём разницу подробнее ниже.
Как работает обучение с учителем?
Процесс укладывается в четыре шага: сначала собирают сырые данные, затем размечают их — добавляют метку к каждому примеру, после этого модель на этих парах подбирает внутренние параметры так, чтобы её предсказания как можно точнее совпадали с метками, а на последнем шаге проверяют, как обученная модель предсказывает ответ на новых, ранее не виденных примерах.
Каждое звено этой цепочки напрямую влияет на итоговое качество: чем чище и репрезентативнее сырые данные и чем точнее разметка, тем увереннее модель находит настоящую закономерность, а не случайный шум. Ошибка, допущенная на первых двух шагах, не исчезает сама собой — она напрямую переходит в качество предсказаний на новых, ещё не размеченных данных.
Пошагово цепочка выглядит так:
- Сбор данных. Формируют массив сырых примеров — фотографий, аудиозаписей, текстов или строк таблицы, — репрезентативных для будущей задачи модели.
- Разметка. К каждому примеру добавляют метку: класс, число, рамку вокруг объекта или другой понятный модели правильный ответ.
- Обучение. Модель перебирает размеченные примеры и подбирает внутренние параметры так, чтобы разница между предсказанием и меткой становилась всё меньше.
- Предсказание. Обученную модель применяют к новым данным без меток — и проверяют, насколько точно она угадывает правильный ответ.
Чем обучение с учителем отличается от обучения без учителя и обучения с подкреплением?
Обучение с учителем работает по размеченным примерам с известным ответом, обучение без учителя ищет структуру и группы в данных без каких-либо меток, а обучение с подкреплением учится через пробы и ошибки, получая награду или штраф за действие в среде. Все три парадигмы решают разные классы задач и редко заменяют друг друга.
| Критерий | С учителем | Без учителя | С подкреплением |
|---|---|---|---|
| Входные данные | Размеченные: вход + правильный ответ | Неразмеченные | Среда и сигнал награды |
| Цель обучения | Предсказать метку для нового примера | Найти структуру, группы, аномалии | Найти стратегию действий с максимальной наградой |
| Примеры задач | Классификация, регрессия | Кластеризация, снижение размерности | Игры, робототехника, рекомендации |
| Нужна ли разметка | Да, обязательно | Нет | Нет, но нужна среда с обратной связью |
| Типичные алгоритмы | Регрессия, случайный лес, нейросети | K-means, DBSCAN, PCA | Q-learning, policy gradient |
На практике границы иногда размываются: self-supervised подход генерирует метки прямо из структуры данных — например, предсказывает следующее слово в тексте — и формально относится к обучению без учителя, хотя по механике ближе к обучению с учителем. Большие языковые модели проходят оба этапа: сначала self-supervised предобучение на огромном неразмеченном корпусе, а затем дообучение с учителем на размеченных парах «инструкция — ответ».
Какие задачи решает обучение с учителем?
Обучение с учителем решает два широких класса задач: классификацию, где нужно присвоить примеру одну из заранее известных категорий (спам или не спам, кот или собака на фото), и регрессию, где нужно предсказать непрерывное числовое значение — цену квартиры, время в пути, вероятность оттока клиента.
Классификация бывает бинарной — два класса, например «одобрить кредит» или «отказать», — и многоклассовой, когда вариантов ответа десятки или сотни, как при определении породы животного по фото. Регрессия применяется там, где ответ — это число на непрерывной шкале: прогноз спроса, оценка стоимости недвижимости, предсказание срока доставки.
- Классификация. Определение спама в почте, распознавание категории товара по фото, определение тональности отзыва, диагностика заболевания по снимку.
- Регрессия. Прогноз цены квартиры по параметрам, оценка срока доставки заказа, предсказание оттока клиентов в процентах, прогноз спроса на товар.
Какую роль играют размеченные данные в обучении с учителем?
Размеченные данные — это топливо обучения с учителем: без пары «пример плюс метка» модели не на чем сверять свои предсказания и корректировать параметры. Чем точнее и однороднее разметка, тем достовернее сигнал, который получает модель, и тем увереннее она находит закономерность вместо случайных совпадений в обучающей выборке.
Получить размеченные данные можно тремя путями: воспользоваться открытым датасетом под задачу, разметить данные силами внутренней команды или заказать разметку под ключ у специализированного подрядчика — это особенно оправдано при большом объёме, узкой предметной области или строгих требованиях к точности. Подробнее о видах разметки и о том, как устроен процесс, — на странице разметки данных для машинного обучения.
Например, для обучения модели детекции брака на производственной линии внутренней команде пришлось бы размечать тысячи фотографий вручную, отвлекая инженеров от основной работы. Подрядчик с готовым пулом разметчиков и налаженным контролем качества выполняет тот же объём быстрее и с более предсказуемым результатом, оставляя заказчику только финальную приёмку и итоговый аудит партии.
Сколько данных нужно для обучения с учителем?
Универсального числа нет: простым моделям на несложных задачах может хватить нескольких тысяч примеров, а глубоким нейросетям на сложных задачах компьютерного зрения или обработки текста нужны десятки и сотни тысяч размеченных примеров. Ориентир — не абсолютное число, а то, насколько стабильно ведёт себя метрика качества на валидационной выборке при добавлении новых данных.
Практический способ понять, что данных достаточно, — построить кривую обучения: график точности модели в зависимости от объёма обучающей выборки. Если кривая ещё заметно растёт с добавлением новых примеров, модель ограничена именно объёмом данных, а не архитектурой. Если кривая вышла на плато, для дальнейшего роста точности нужно менять не количество данных, а качество разметки или саму модель.
Какие алгоритмы используют для обучения с учителем?
Для классификации и регрессии применяют разные семейства алгоритмов: линейную и логистическую регрессию для простых и интерпретируемых моделей, деревья решений и случайный лес для табличных данных с нелинейными зависимостями, метод опорных векторов для задач с чёткой границей между классами и нейронные сети — когда данных много, а зависимости сложные.
Выбор алгоритма редко бывает произвольным. Для табличных данных с понятными признаками случайный лес или градиентный бустинг часто дают результат быстрее и с меньшими затратами, чем нейросеть.
- Линейная и логистическая регрессия — простые, быстрые и легко объяснимые модели для задач с относительно понятной зависимостью между признаками и ответом.
- Деревья решений и случайный лес — хорошо работают на табличных данных с нелинейными зависимостями и почти не требуют предварительной настройки.
- Метод опорных векторов (SVM) — эффективен, когда классы разделены достаточно чётко, а данных не очень много.
- Нейронные сети — раскрывают потенциал на больших объёмах данных и в задачах с изображениями, звуком и текстом, где признаки извлекаются автоматически в процессе обучения — этот механизм подробно разобран в статье о том, как обучается нейросеть.
Какие ошибки чаще всего допускают при обучении с учителем?
Три частые ошибки: несбалансированная обучающая выборка, где один класс встречается в десятки раз чаще других, из-за чего модель игнорирует редкий, но важный случай; переобучение, когда модель запоминает обучающие примеры вместо того, чтобы находить общую закономерность; и утечка данных, когда информация из тестовой выборки случайно попадает в обучение.
Дисбаланс классов исправляют либо досбором данных для редкого класса, либо взвешиванием ошибки в процессе обучения, чтобы модель не игнорировала его. Переобучение и утечку данных подробно разбираем в статьях о переобучении модели и о делении данных на обучающую и тестовую выборку — там же собраны конкретные признаки каждой проблемы и способы их предотвратить.
Четвёртая распространённая ошибка — неподходящая метрика оценки: accuracy на сильно несбалансированных данных легко маскирует то, что модель фактически игнорирует редкий, но важный класс, показывая обманчиво высокий общий процент правильных ответов.
- Несбалансированные классы. Редкий, но важный случай тонет в большинстве — модель его игнорирует.
- Переобучение. Модель запоминает конкретные примеры вместо общей закономерности.
- Утечка данных. Информация из тестовой выборки просачивается в обучение и завышает оценку.
- Неподходящая метрика. Одна усреднённая цифра точности маскирует провал модели на редком, но важном классе.
Большинство перечисленных ошибок обнаруживаются раньше, если с самого начала проекта заложить проверку на отдельной, независимой выборке и не полагаться на одну общую цифру точности. Регулярная сверка метрик по каждому классу и по каждому этапу — от сырых данных до готовой модели — обходится дешевле, чем разбор причин, почему модель, отлично показавшая себя в тестах, не работает после запуска в реальных условиях.