Рання зупинка — Вікіпедія

Рання зупинка є формою регуляризації, яка використовується для уникнення перенавчання у процесі машинного навчання за допомогою ітераційного методу, такого як градієнтний спуск. Такі методи оновлюють поточний стан так, щоб він краще відповідав навчальним даним з кожною ітерацією. До певного моменту це покращує продуктивність на даних розташованих поза навчальним набором. Але в якийсь момент поліпшення пристосування до навчальних даних вже відбувається за рахунок посилення похибки узагальнення. Правила ранньої зупинки дають вказівки щодо того, скільки ітерацій можна виконати до того, як почнеться перенавчання. Правила ранньої зупинки застосовувалися в багатьох різних методах машинного навчання, з різним теоретичним обґрунтуванням.

У цьому розділі представлені деякі основні концепції машинного навчання, необхідні для опису методів ранньої зупинки.

Алгоритми машинного навчання тренують модель на скінченному наборі навчальних даних. Під час навчання модель оцінюється щодо того, наскільки добре вона прогнозує спостереження, на тих даних, які є в навчальному наборі. Загалом, мета машинного навчання полягає в тому, щоб створити модель, яка узагальнює, тобто робить прогнози на спостереженнях, які раніше не траплялись. Перенавчання відбувається тоді, коли модель добре вписується в дані тренувального набору, одночасно з тим має велику помилку узагальнення.

Регуляризація, в контексті машинного навчання, відноситься до процесу зміни алгоритму навчання з метою запобігання перенавчання. Це, як правило, передбачає накладання певного обмеження гладкості на вивчену модель^[1]. Ця гладкість може бути затребувана явно, коли фіксується кількість параметрів у моделі, або через зміну функції втрат, як у регуляризації Тихонова. Регуляція Тихонова, разом з регресією головних компонент^[en] і багатьма іншими схемами регуляризації, відноситься до спектральної регуляризації, регуляризації, яка характеризується застосуванням фільтра. До цього класу методів належить і рання зупинка.

Методи градієнтного спуску — ітераційні методи оптимізації першого порядку. Кожна ітерація оновлює приблизне рішення задачі оптимізації, роблячи крок у від'ємному напрямку градієнта цільової функції. Вибираючи відповідний розмір кроку, такий метод може збігатись до локального мінімуму цільової функції. Градієнтний спуск використовується в машинному навчанні через визначення функції втрат, яка відображає помилку на навчальному наборі, а потім відбувається мінімізація функції.

Рання зупинка може бути використана для регуляризації непараметричних^[en] задач регресії, які виникають в машинному навчанні. Для заданого простору вхідних даних ${\displaystyle X}$, простору виводу ${\displaystyle Y}$ і зразків, які взяті з невідомої ймовірнісної міри ${\displaystyle \rho }$ на ${\displaystyle Z=X\times Y}$, метою таких задач є наближення функцією регресії ${\displaystyle f_{\rho }}$, яка задається як

${\displaystyle f_{\rho }(x)=\int _{Y}yd\rho (y|x),x\in X}$,

де ${\displaystyle \rho (y|x)}$ є умовним розподілом на ${\displaystyle x}$ індукованим ${\displaystyle \rho }$^[2].

Один загальний вибір для апроксимації функції регресії полягає у використанні функцій з відтворювального ядра Гільбертового простору^[en][2]. Ці простори можуть мати нескінченну кількість вимірів, які містять рішення, що відповідають перенавчанню на навчальних наборах довільного розміру. Таким чином, регуляризація особливо важлива для цих методів. Один із способів регулювання непараметричних задач регресії полягає в застосуванні правила ранньої зупинки до ітераційної процедури, такої як спуск градієнта.

Правила ранньої зупинки, запропоновані для цих задач, ґрунтуються на аналізі верхніх меж похибки узагальнення як функції числа ітерації. Вони дають приписи щодо кількості ітерацій для запуску, які можна обчислити до початку процесу розв'язання^[3][4].

Підсилення відноситься до сімейства алгоритмів, в яких множина слабких учнів (учні, які лише злегка корелюють зі справжнім процесом) об'єднуються для отримання сильного учня. Було показано, що для декількох алгоритмів підсилення (включаючи AdaBoost^[en]) регуляризація за допомогою ранньої зупинки може забезпечити гарантії узгодженості^[en], тобто, результат отриманий при підсиленні наближається до справжнього рішення, оскільки кількість зразків прямує до нескінченності^[5][6][7].

Методи підсилення мають тісні зв'язки з методами градієнтного спуску, описаними вище, і можуть розглядатися як метод підсилення, заснований на ${\displaystyle L_{2}}$ втратах: L₂Boost^[3].

Ці правила ранньої зупинки працюють, розбиваючи оригінальний навчальний набір на новий навчальний набір і набір перевірки. Помилка набору перевірки використовується як посередник для помилки узагальнення при визначенні початку перенавчання. Ці методи найчастіше використовуються у навчанні нейронних мереж. Пречелт дає наступний підсумок наївної реалізації ранньої зупинки на базі відстороненого набору наступним чином:

1. Розділити навчальні дані на навчальний набір і перевірочний набір, наприклад, у пропорції 2 до 1.
2. Навчайте тільки на навчальному наборі та оцінюйте помилку на наборі для перевірки один раз за якийсь проміжок, наприклад, після кожної п'ятої епохи.
3. Зупиніть тренування, як тільки помилка на перевірочному наборі стане вище, ніж це було в останній раз.
4. Використовуйте ті ваги, які мережа мала на попередньому кроці, як результат циклу навчання.

— Лутц Пречелт, 'Рання зупинка – але коли?'

Більш складною за формою є використання перехресного затверджування — численні розбиття даних на навчальний набір і перевірочний набір — замість одного поділу на навчальний і перевірочний набір. Навіть ця проста процедура ускладнюється на практиці тим, що помилка перевірки може коливатися під час навчання, утворюючи декілька локальних мінімумів. Таке ускладнення призвело до створення багатьох ad hoc правил для вирішення питання про початок перенавчання^[8].

• Перенавчання, рання зупинка є одним з методів, що використовуються для запобігання перенавчання
• Похибка узагальнення
• Регуляризація (математика)
• Теорія статистичного навчання
• Підсилювання (машинне навчання)
• Перехресне затверджування, зокрема, за допомогою «набору перевірки»
• Штучна нейронна мережа