Overfitting (переобучение) — это ситуация в машинном обучении и науке о данных, когда модель слишком хорошо подстраивается под обучающую выборку, включая случайные шумы и несущественные детали. В результате модель показывает отличные результаты на обучающих данных, но плохо справляется с новыми, ранее не встречавшимися данными. То есть модель теряет способность к обобщению.

Почему возникает Overfitting?

Переобучение обычно происходит, когда модель:

• Слишком сложная (например, нейросеть с большим числом слоёв),
• Обучается на слишком малом количестве данных,
• Обучается слишком долго, запоминая даже шум,
• Сталкивается с зашумлёнными или некачественными данными.

Признаки переобучения:

• Высокая точность на обучающих данных, но низкая точность на тестовых данных.
• Модель ведёт себя нестабильно на новых примерах.
• Не может правильно обрабатывать даже простые входные данные, если они отличаются от обучающих.

Как предотвратить Overfitting:

1. Собрать больше данных — поможет модели лучше обобщать закономерности.
2. Использовать регуляризацию (например, L1 или L2).
3. Упростить модель — сократить количество признаков или параметров.
4. Применять техники, такие как dropout или ранняя остановка обучения (early stopping).
5. Использовать кросс-валидацию для оценки модели на разных подвыборках.